Algoritmi metaeuristici: I - introduzione

Transcript

1 Algoritmi metaeuristici: I - introduzione Daniele Vigo D.E.I.S. - Università di Bologna dvigo@deis.unibo.it rev Aprile 200 Tecniche Meta-euristiche Algoritmi Local Search che usano speciali tecniche per uscire dai minimi locali incontrati devono evitare il verificarsi di cicli nell evoluzione dell algoritmo mossa peggiorante ottimo locale ciclo!!! 2 ottimo locale Metaeur.2

2 Tecniche Meta-euristiche A partire dagli anni 80 sono stati proposti numerosi paradigmi metaeuristici: Simulated Annealing Tabu search Genetic Algorithms Neural Networks Ant Systems Molti sono basati su analogie con sistemi naturali In generale molto efficaci e di facile implementazione ma richiedono tempi molto più elevati degli euristici tradizionali (costruttivi) Metaeur.3 Tabu Search (Glover, 986) Generalizzazione di LOCAL SEARCH consentendo l accettazione di mosse peggiorative. Uso di memoria di breve termine (TABU LIST) per evitare di ritornare nelle ultime t soluzioni visitate T tabu list := memorizza le ultime t soluzioni visitate T = {x k-, x k-2,, x k-t } Metaeur.4 2

3 Tabu Search: algoritmo base /* per problema di minimo */ genera una soluzione iniziale s di valore z(s) s* = s ; k := ; T = {s} ; while not STOP CRITERION do genera il neighborhood N(s)\T /* non tabu */ trova la migliore soluzione s N(s)\T rispetto a z( ) if z(s ) < z (s) then s* := s ; k best := k s := s k := k+ inserisci s in T al posto della più vecchia endwhile Metaeur. Tabu Search: criteri di terminazione Criteri di arresto possibili (STOP CRITERIA): N(s) \ T = Ø k > k max time limit raggiunto k k best > k non improving s* ottima (ad esempio = ad un lower bound) Metaeur.6 3

4 Tabu Search: lista tabu T impedisce il verificarsi di cicli di lunghezza T memorizzare in T soluzioni complete può essere oneroso es. TSP ogni soluzione è un vettore di n elementi ; confrontare due soluzioni costa O(n) ; verificare se una soluzione è tabu costa O(n T ) Metaeur.7 Tabu Search: lista tabu (2) si memorizzano attributi delle soluzioni e non soluzioni intere (ad esempio le mosse) mossa m : insieme delle operazioni elementari per ottenere una soluzione s' dalla soluzione corrente s s = s m (es. scambi di archi). N(s) := {s : m tale che s = s m } Metaeur.8 4

5 Tabu Search: mosse inverse T I memorizza le mosse inverse delle ultime mosse eseguite. TSP : se l ultima mossa aveva spostato il vertice i dalla dalla alla 7 posizione del circuito si proibisce di riportare i in posizione 2. TSP 2: se l ultima mossa ha scambiato gli archi (i, σ(i)) e (j, σ(j)) con (i, j), (σ(i), σ(j)) si proibiscono le mosse che coinvolgono i vertici i e/o j 3. KP-0: se l ultima mossa ha inserito nel KP l oggetto i si proibisce di rimuoverlo dal KP Metaeur.9 Limitazione delle mosse inverse T I molto più restrittiva di T R:= {x : m T I tale che x = x m} N(x)\R N(x)\T (spesso <<) Es. si considerino tutte le possibili terne di elementi distinti dell insieme {a,b,c,d,e} Soluz. Corrente abc abd acd acb = abc Trasformazione c d b c d b Tabu List d c d c c b d c c b b d Metaeur.0

6 Limitazione delle mosse inverse (2) T I non garantisce che non si abbiano cicli di periodo T I Es. TSP: T I memorizzagliultimiverticispostati T I > T I = {3} ciclo di periodo! Metaeur. Tabu Search: criteri aspirazione Tecnica utilizzata per sopperire alle condizioni troppo restrittive imposte dalle mosse inverse Una mossa, anche se tabu, può essere comunque effettuata se questa conduce ad una buona soluzione La bontà della soluzione si valuta con un opportuno contributo alla funzione obiettivo Metaeur.2 6

7 Intensificazione e diversificazione T I costituisce la memoria di breve periodo (short term) una ricerca efficace necessita anche di memoria di medio/lungo periodo che consenta : intensificazione della ricerca: non è consentito spostarsi troppo dalla parte di regione che si sta visitando preferire mosse con caratteristiche in comune con una buona soluzione recentemente incontrata penalità da aggiungere a z( ) per le mosse che alterano tale caratteristica diversificazione della ricerca: per spostarsi verso altre zone (inesplorate) dello spazio delle soluzioni penalità da aggiungere a z( ) per le soluzioni troppo vicine alla corrente Metaeur.3 Tabu search: vincoli A volte se il problema è fortemente vincolato la cardinalità di N(s) può essere molto piccola (è facile che N(x)\T = Ø ) si rilassano alcuni vincoli aggiungendo ad f(x) una penalità proporzionale alla violazione dei vincoli in x la ricerca si muove anche attraverso soluzioni non ammissibili Aggiustamento adattativo della penalità: La penalità può crescere se da molte iterazioni non si incontrano soluzioni ammissibili La penalità può decrescere se da molte iterazioni si incontrano soluzioni tutte ammissibili Metaeur.4 7

8 Gestione della lista tabu Tabu tenure t: lunghezza della lista tabu costante =... aggiornata dinamicamente (es. ogni h iterazioni) se s* è stata migliorata t := max {t max, t-} (INTENSIFICAZIONE) se s* rimane immutata t := min {t min, t+} (DIVERSIFICAZIONE) scelta casualmente in [t min, t max ] t che valori dare a t, t min, t max, h??? Memorizzazione della lista tabu: occupazione di memoria vs. tempo di verifica stato Metaeur. Tabu list per TSP E tabu muovere il vertice i per t iterazioni. Salva la lista dei vertici tabu T = {i, j,...} spazio O(t), tempo O(t) 2. Salva l iterazione in cui ho mosso un vertice vertice i T(i) := iterazione in cui ho mosso i k = iterazione corrente if T(i) + t k then mossa tabu else mossa ammissibile spazio O(n) ma tempo O() Metaeur.6 8

9 Tabu search di base per TSP Glover 986, Knox e Glover 989, Knox Neighborhood 2-opt exchange completo O(n 2 ) Tabu list : G 86 : T contiene il lato più corto rimosso in uno scambio non si può reinserire Asiration level si accettano mosse tabu miglioranti K 94 : T contiene le coppie di archi rimossi più costose (meno restrittiva) non si possono reinserire Aspiration level si accetta una mossa tabù che riduce il costo rispetto a quando c erano gli archi rimossi Metaeur.7 Tabu search di base per TSP Implementazione efficiente di 2/3-opt t 3 c t 4 d t 3 c t 4 d a t b t 2 ogni scambio è rappresentabile mediante la quadrupla < t, t2, t3, t4 > rimuovo (t, t2), (t4, t3 ) inserisco (t2, t3), (t, t4 ) a t b t 2 Metaeur.8 9

10 Tabu search di base per TSP (2) ogni scambio corrisponde a 2 quadruple t = a t2 = b < a, b, c, d > t = d t2 = c < d, c, b, a > (a,b,c,d) = c tt2 + c t4t3 -c t2t3 -c tt4 perchè lo scambio sia migliorante > 0 (a) c tt2 > c t2t3 o (b) c t4t3 > c tt4 o entrambi ma se è migliorante (a) è verificato per almeno una delle due rappresentazioni Metaeur.9 Tabu search di base per TSP (3) non si perdono scambi miglioranti se ci si limita alle quadruple t,..., t4 per cui c tt2 > c t2t3 dati t e t2 è sufficiente considerare t3 e t4 tali che : t3 : c tt2 > c t2t3 t4 segua t3 nel tabu corrente come implementare l algoritmo in modo efficiente? i L i = {v i, v i2,...} lista dei vertici in ordine di distanza da i tempo O(n 2 log n), spazio O(n 2 ) Metaeur.20 0

11 Simulated Annealing (SA) Algoritmo di ricerca basato su neighborhood randomizzato (Kirkpatrick et al., 983) Simula il comportamento del processo termodinamico di annichilazione dei metalli (raffreddamento dallo stato fuso) data s soluzione corrente se s N(s) migliorante la si esegue altrimenti si eseguono mosse peggiorante s N(s) con una probabiltà via via decrescente La probabilità dipende da un parametro T ( temperatura ) che decresce nel tempo Metaeur.2 Algoritmo base SA genera una soluzione iniziale s di valore z(s) s* := s determina la temperatura iniziale T=T 0 e la temperatura finale T min while T > T min do scegli casualmente una mossa che trasforma s in s = z(s ) z(s) if 0 then /* downhill */ s := s if z(s) < z(s*) then z(s*) < z(s) else /* uphill */ genera un valore casuale r in [0,] if r < e - /T then s := s diminuisci T (schema di raffreddamento, cooling schedule) endwhile Metaeur.22

12 Considerazioni su SA Versione non omogenea: la temperatura diminuisce ad ogni mossa Versione omogenea: si mantiene la stessa temperatura fino a quando non si e raggiunto uno stato di equilibrio e solo allora la si diminuisce Temperatura finale: teoricamente T min in pratica ci si ferma quando da P iterazioni non si migliora la soluzione ottima da Q iterazioni non si accetta una mossa Convergenza teorica all ottimo globale Metaeur.23 Simulated Anealing: varianti Reannealing prima esecuzione: si memorizza la temperatura T alla quale si e trovata la soluzione migliore seconda esecuzione: ricerca locale più accurata con T=T Restricted neighborhood non si considerano mosse che difficilmente possono produrre buone soluzioni Es. TSP si considerano solo mosse che collegano vertici vicini Metaeur.24 2

13 Simulated Annealing Vs. Tabu Search Similarità principali ci si muove da una soluzione ad un altra del suo intorno sono consentite mosse peggiorative (uphills) Differenze principali Tabu search mosse peggioranti solo quando si è in un ottimo locale poco o per nulla basato sulla randomizzazione Simulated annealing mosse peggioranti in qualunque momento fortemente basato sulla randomizzazione si esaminano le soluzioni dell intorno in ordine casuale spostandosi alla prima che risulta migliore di quella corrente o supera un particolare test randomizzato Metaeur.2 Algoritmi Genetici (Holland 97; Goldbuy 987) Basati sull analogia con l evoluzione di una popolazione di organismi elementari individuo soluzione fitness individuo costo soluzione Gli individui si combinano per generare nuovi individui in generazioni successive operatori di mutazione operatori di ricombinazione Il processo evolutivo tende a selezionare solo gli individui più idonei (fitness migliore) Metaeur.26 3

14 Algoritmi Genetici: versione base INIZIALIZZAZIONE: costruisci una popolazione iniziale di n individui S={S,...,S n } repeat /* generazioni */. MUTAZIONE: scegli m individui in S ed applica una mutazione randomizzata per ottenere m nuovi individui 2. RICOMBINAZIONE (CROSSOVER): scegli r coppie di individui e combinali in modo randomizzato per generare r nuovi individui che riflettano gli aspetti di entrambi i genitori 3. SELEZIONE: usa un criterio di selezione per ridurre la popolazione ad n individui selezionandoli tra gli n + m + r individui di S until STOP CRITERION Metaeur.27 Inconvenienti di GA base Lo schema non è efficace per la risoluzione di problemi vincolati Data una popolazione iniziale di soluzioni ammissibili gli operatori di mutazione e crossover producono nuove soluzioni spesso non ammissibili: Impiego di operatori specializzati che mantengano l ammissibilità Impiego di un passo di ricerca locale per cercare l ammissibilità e portare le soluzioni generate ad ottimi locali ( mandiamo gli individui a scuola prima di farli riprodurre ) Metaeur.28 4

15 Genetic Local Search INIZIALIZZAZIONE: costruisci una popolazione iniziale di n individui S={S,...,S n } MIGLIORAMENTO: determina gli ottimi locali associati agli n individui con un algoritmo Local Search repeat /* generazioni */. MUTAZIONE: scegli m individui in S ed applica una mutazione randomizzata per ottenere m nuovi individui 2. CROSSOVER: scegli r coppie di individui e combinali in modo randomizzato per generare r nuovi individui 3. MIGLIORAMENTO: applica un algoritmo di Local Search ad ognuno dei nuovi m+r individui per ottenere un nuovo insieme di soluzioni S 4. SELEZIONE: usa un criterio di selezione per ridurre la popolazione ad n individui selezionandoli tra gli n + m + r individui di S S until STOP CRITERION Metaeur.29 Operatori per GA In un GA la soluzione è rappresentata da una stringa i cui valori sono i geni Es. in KP-0 stringa delle variabili binarie associate agli oggetti MUTAZIONE scegli uno o più geni in modo casuale (di solito con probabilità uniforme P = /n) cambia il valore dei geni selezionati Metaeur.30

16 Operatori per GA (2) CROSSOVER. scegli 2 individui ( genitori, parents ) x = {x,..., x n } ed y = {y,..., y n } 2. combinali in modo da creare uno o più nuovi individui ( figli, offspring ) z = {z,..., z n } (e w = {w,..., w n }) i cui geni siano una combinazione dei geni dei genitori Metaeur.3 Operatori di CROSSOVER ONE POINT CROSSOVER (genera o 2 figli) Scegli un punto di taglio t uniforme in [,n] xi i < t yi i < t zi = wi = yi i t xi i t x y z w t Metaeur.32 6

17 Operatori di CROSSOVER TWO POINT CROSSOVER (genera o 2 figli) Scegli due punti di taglio s e t uniformi in [,n] x y z w s t Metaeur.33 Es. Algoritmo genetico per KP-0 MUTAZIONE: si cambia in maniera casuale (secondo un determinata funzione di probabilità) il valore di uno o piu elementi x j (geni) della soluzione ONE-POINT CROSSOVER: E necessario verificare l ammissibilità delle nuove soluzioni: Metaeur.34 7

18 Algoritmi Genetici per TSP Rappresentazione della soluzione: sequenza di visita dei vertici (permutazione) mutazione e crossover possono produrre soluzioni inammissibili Es. MUTAZIONE, cambio casuale di un gene Metaeur.3 Variante Mutazione per TSP Nuovo operatore di mutazione che genera una nuova soluzione ammissibile Scegli due punti di taglio ed inverti la sottosequenza compresa tra questi Metaeur.36 8

19 Crossover per TSP Se si utilizza un TWO-POINT CROSSOVER s t s t x x y y x ed y non sono tour! Soluzione: ORDER CROSSOVER Metaeur.37 Order Crossover per TSP. Si scelgono s e t ed in y si rimpiazzano le gli elementi nella sottostringa di x con dei buchi s t x y Si spostano i buchi verso destra o sinistra fino a farli arrivare nella posizione centrale introducendo la minor perturbazione possibile nella sequenza originale Si sostituiscono i buchi con la sottostringa di x Metaeur.38 9

20 Considerazioni sui Metaeuristici Schemi (paradigmi) algoritmici generali che devono essere particolarizzati per i singoli problemi. Spesso non competitivi rispetto ad algoritmi sviluppati ad hoc (soluzioni paragonabili in tempi molto più elevati). Tempi di sviluppo di un metaeuristico di base molto inferiori rispetto una tecnica ad hoc (ed anche di modifica per variazione del problema). Normalmente (molto) migliori di tecniche local search tradizionali ma con tempi (molto) superiori. Spesso diventano molto complessi e dipendenti da numerosi parametri di difficile taratura. Metaeur.39 Riferimenti bibliografici VJ RaywardSmith, IH Osman, CR Reaves, GD Smith eds Modern Heuristics Search Methods Wiley Chichester IH Osman, JP Kelly eds MetaHeuristics Theory and Applications Kluwer Academic Publishers Boston MA F Glover, M Laguna eds Tabu Search Kluwer Academic Publishers Boston MA E Aarts, JK Lenstra eds Local Search in Combinatorial Optimization Wiley Chichester S Voss, S Martello, I Osman, C Roucairol eds MetaHeuristics Advances and Trends in Local Search Algorithms for Optimization Kluwer Academic Publishers Boston MA CC Ribeiro, P Hansen eds Essays and Surveys in Metaheuristics Kluwer Academic Publishers Boston MA Metaeur.40 20