Introduzione agli algoritmi genetici. Diego Nova

Transcript

1 Introduzione agli algoritmi genetici Diego Nova

2 Introduzione Gli Algoritmi Genetici (GA) sono procedure complesse, adattative, finalizzate alla risoluzione di problemi di ricerca e ottimizzazione e basate concettualmente sui principi che regolano l'evoluzione naturale delle specie. L'idea che sta alla base degli AG è quindi quella di selezionare le soluzioni migliori e di ricombinarle in qualche modo fra loro in maniera tale che esse evolvano verso un punto di ottimo. Algoritmi genetici 2

3 Nomenclatura Nel linguaggio degli AG la funzione da massimizzare prende il nome di fitness (F). Si supponga che la funzione di fitness dipenda da n variabili: F = f (x 1, x 2,, x n ). Un set di n valori x 1, x 2,, x n appartenenti ad un certo intervallo viene detta individuo (o soluzione). Un insieme di individui forma una popolazione Una soluzione può essere codificata biunivocamente in codice binario (l idea fu introdotta originariamente da J.Holland, il padre degli AG). La specifica sequenza (stringa) di 0 e 1 che costituiscono un individuo (soluzione) è detta cromosoma. Algoritmi genetici 3

4 Nomenclatura (continua) Considerando che si è in presenza di una evoluzione temporale della popolazione, si parla generazione per indicare la popolazione in un dato istante di tempo. Algoritmi genetici 4

5 Principio di funzionamento In natura gli individui si riproducono mescolando in questo modo i propri patrimoni genetici, cioè i loro cromosomi: i nuovi individui generati avranno pertanto un patrimonio genetico derivato in parte dal padre e in parte dalla madre. La selezione naturale (cioè il riutilizzo di soluzioni buone) fa sì che riescano a sopravvivere e quindi a riprodursi solo gli individui più forti, "più adatti", cioè quelli con la fitness più elevata (più vicini all ottimo); la fitness media della popolazione tenderà quindi ad aumentare con le generazioni, portando così la specie ad evolversi nel tempo. Algoritmi genetici 5

6 Struttura di un GA 1. Definizione della generazione iniziale. Definire (anche a caso) un primo insieme di possibili soluzioni al problema in esame. 2. Valutazione di ogni soluzione e selezione selle migliori. Valutare ogni soluzione, associando a ciascuna un indicatore di qualità (o fitness) in modo da poterle ordinare. 3. Definizione di una nuova generazione. Definire un nuovo gruppo di soluzioni modificando opportunamente le soluzioni con qualità elevata, in modo da favorire lo sviluppo a scapito di quelle peggiori. Algoritmi genetici 6

7 Struttura di un GA (continua) 4. Conclusione dell elaborazione. Se il numero di iterazioni stabilite è stato raggiunto o la qualità della migliore soluzione disponibile è accettabile si può terminare l elaborazione, altrimenti si ritorna al passo 2 per definire un nuovo gruppo di soluzioni. Algoritmi genetici 7

8 Selezione La selezione di un individuo dipende dal suo valore di fitness (cioè quanto l individuo è buono a risolvere il problema): un valore più alto di fitness corrisponde ad una maggiore possibilità di essere scelto come genitore (parent) per creare la nuova generazione. Uno dei criteri più utilizzati è quello di Holland che attribuisce una probabilità di scelta proporzionale al fitness. Grazie al meccanismo della selezione, solo gli individui migliori hanno la possibilità di riprodursi e quindi di trasmettere il loro genoma alle generazioni successive. Algoritmi genetici 8

9 Crossover e Mutazione Per la creazione di nuovi individui ad ogni generazione si utilizzano due operazioni ispirate dall evoluzionismo biologico: il crossover e la mutazione. Una volta individuati una coppia di genitori con il meccanismo della selezione, i loro genomi possono andare incontro a ciascuna delle due operazioni con probabilità rispettivamente P cross (probabilità di crossover per coppia di individui, detta crossover rate) e P mut (probabilità di mutazione per gene, detta mutation rate). Algoritmi genetici 9

10 One Point Crossover È la tecnica più semplice, date due stringhe viene individuato un punto che separa ciascuna di esse in due parti, in seguito si ricombinano come mostrato in figura. La probabilità che si verifichi il cross over è in genere abbastanza alta (in caso contrario è possibile avere figli che sono uguali ai genitori). Punto di crossover Genitori Figli Algoritmi genetici 10

11 Standard Corssover Simile al precedente ma si selezionano due punti di taglio suddividendo la stringa in tre sottostringhe Algoritmi genetici 11

12 Order Corssover Come lo standard crossover lavora su coppie di cromosomi. I due punti di taglio sono scelti a caso. Ciascum figlio è costruito prendendo la crossing section (la parte centrale del taglio) di un genitore e riempiendo gli spazi rimanendi con i simboli mancanti presi nell ordine in cui compaiono nell altro genitore. CA BDHF EG DH CABE GF HF CABE GD AE BDHF GC Algoritmi genetici 12

13 Order Corssover (continua) Questa interpretazione del cromosoma ben si adatta a problemi di ordinamento quali il TSP dove, è possibile leggere il cromosoma cominciando da un punto qualsiasi, ma soprattutto, questo tipo di crossover mantenendo l ordinamento garantisce l ammissibilità delle nuove soluzioni. Algoritmi genetici 13

14 Mutazione Data la probabilità di mutazione, per ciascuna cifra di ogni individuo si estrae un numero casuale q: se q P mut, la cifra binaria viene scambiata (1 diventa 0 e 0 diventa 1); Algoritmi genetici 14

15 Il problema del commesso viaggiatore (TSP) Vediamo ora l applicazione di un algoritmo genetico al noto problema di ottimizzazione combinatoria. Siano date n città (nodi del grafo) collegate da strade (archi del grafo). Il valore di un arco è la lunghezza della strada (o costo di viaggio) che quell arco rappresenta. Un commesso viaggiatore si propone di visitare una ed una sola volta ciascuna città (partendo da una qualsiasi e ritornandovi), in modo da avere un percorso totale di lunghezza minima (o costo minimo). Algoritmi genetici 15

16 La matrice dei costi è la seguente: La scelta della rappresentazione degli individui costituisce un problema non banale. Per questo problema si può pensare di rappresentare un individuo con una permutazione delle sei città. Es. p 4 =(F,E,A,B,D,C) Mentre la funzione di fitness è ovvia: Dato un individuo il valore della fitness è inversamente proporzionale alla lunghezza del cammino descritto dall individuo. A B C D E F A B Algoritmi genetici C D E F

17 La popolazione iniziale (o prima generazione) P(t=0) è costituita dai seguenti individui (soluzioni ammissibili): p 1 =(A, B, C, D, E, F) p 2 =(B, C, A, F, D, E) p 3 =(C, B, F, A, D, E) p 4 =(F, E, A, B, D, C) p 5 =(B, F, E, A, C, D) p 6 =(A, C, F, B, D, E) p 7 =(A, B, C, D, F, E) Cioè P(0)=(p 1, p 2, p 3, p 4, p 5, p 6, p 7 ) a cui sono associati i rispettivi costi di percorso: c 1 =26 c 2 =24 c 3 =29 c 4 =31 c 5 =35 c 6 =43 c 7 =20 Si può osservare che p 1 e p 7 sono gli individui con la fitness maggiore. Algoritmi genetici 17

18 Definiamo l algoritmo che risolve il problema: 1. individuo GA(individuo popolazione[], float Pmut) { 2. individuo figlio[2], padre, madre; 3. while(condizione_di_terminazione==false) { 4. SelezionaGenitori(popolazione, padre, madre); 5. OrderCrossover(padre, madre, figlio); 6. if( random()<=pmut ) { 7. Muta(figlio); 8. } 9. Aggiorna(popolazione, figlio); 10. // modifica (se necessario la condizione di terminazione 11. } 12. return Best(popolazione); 13.} Algoritmi genetici 18

19 1. individuo GA(individuo popolazione[], float Pmut) { 2. individuo figlio[2], padre, madre; 3. while(condizione_di_terminazione==false) { 11. } 12. return Best(popolazione); 13.} La funzione riceve come parametri la popolazione iniziale e la probabilità di mutazione e ritorna il miglior individuo della popolazione finale (Best(popolazione)) nel momento in cui la condizione di terminazione è stata raggiunta (come già è stato detto questa può dipendere dal numero di iterazioni, del tempo trascorso ). Algoritmi genetici 19

20 SelezionaGenitori(popolazione, padre, madre); È una funzione che con qualche regola (anche casuale o euristica) seleziona due individui (padre e madre) adatti alla riproduzione dalla popolazione. Nel nostro la regola sarà la scelta dei due individui con la fitness più alta. OrderCrossover(padre, madre, figlio); Esegue l operatore genetico di Order Crossover per creare i due figli (figlio[0] e figlio[1]). Algoritmi genetici 20

21 if( random()<=pmut ) { Muta(figlio); } In una percentuale proporzionale alla probabilità di mutazione di un figlio applica l operatore genetico di mutazione agli individui appena generati. Anche in questo caso la mutazione può essere definita in svariati modi, per esempio: 1. Togliere un elemento a caso e reinserirlo in un altra posizione (C, A, F, B, E, D) (C, F, B, E, A, D) 2. Togliere a caso una sottostringa e reinserirla in un altra posizione (C, A, F, B, E, D) (C, E, D, A, F, B) Algoritmi genetici 21

22 3. Togliere a caso una sottostringa, invertirla e reinserirla nella stessa posizione (C, A, F, B, E, D) (C, B, F, A, E, D) 4. Aggiorna(popolazione, figlio); Questa funzione aggiorna la popolazione attuale trasformandola nella generazione successiva P(t) P(t+1). L aggiornamento può seguire le più svariate regole, nel nostro esempio specifico si sceglierà di eliminare ad ogni passo i due individui meno adatti (cioè quelli con la fitness più bassa). In realtà questa è una semplificazione in quanto, generalmente, l intera popolazione si riproduce (secondo la probabilità P cross ), aggiornandosi interamente ad ogni generazione. Algoritmi genetici 22

23 Ora che si ha la completa conoscenza del problema si può provare a far girare l algoritmo per vederne il comportamento genetico. Algoritmi genetici 23

24 p 1 =(A, B, C, D, E, F) c 1 =26 p 5 =(B, F, E, A, C, D) c 5 =35 p 2 =(B, C, A, F, D, E) c 2 =24 p 6 =(A, C, F, B, D, E) c 6 =43 p 3 =(C, B, F, A, D, E) c 3 =29 p 7 =(A, B, C, D, F, E) c 7 =20 p 4 =(F, E, A, B, D, C) c 4 =31 Iterazione (generazione) 1: Si entra nel ciclo 1. individuo GA(individuo popolazione[], float Pmut) { 2. individuo figlio[2], padre, madre; 3. while(condizione_di_terminazione==false) { 4. Algoritmi genetici 24

25 p 1 =(A, B, C, D, E, F) c 1 =26 p 5 =(B, F, E, A, C, D) c 5 =35 p 2 =(B, C, A, F, D, E) c 2 =24 p 6 =(A, C, F, B, D, E) c 6 =43 p 3 =(C, B, F, A, D, E) c 3 =29 p 7 =(A, B, C, D, F, E) c 7 =20 p 4 =(F, E, A, B, D, C) c 4 =31 Iterazione (generazione) 1: Si selezionano i genitori while(condizione_di_terminazione==false) { 4. SelezionaGenitori(popolazione, padre, madre); 5. Algoritmi genetici 25

26 p 1 =(A, B, C, D, E, F) c 1 =26 p 5 =(B, F, E, A, C, D) c 5 =35 p 2 =(B, C, A, F, D, E) c 2 =24 p 6 =(A, C, F, B, D, E) c 6 =43 p 3 =(C, B, F, A, D, E) c 3 =29 p 7 =(A, B, C, D, F, E) c 7 =20 p 4 =(F, E, A, B, D, C) c 4 =31 Iterazione (generazione) 1: Si generano i figli SelezionaGenitori(popolazione, padre, madre); 5. OrderCrossover(padre, madre, figlio); 6. Algoritmi genetici 26

27 p 1 =(A, B, C, D, E, F) c 1 =26 p 5 =(B, F, E, A, C, D) c 5 =35 p 2 =(B, C, A, F, D, E) c 2 =24 p 6 =(A, C, F, B, D, E) c 6 =43 p 3 =(C, B, F, A, D, E) c 3 =29 p 7 =(A, B, C, D, F, E) c 7 =20 p 4 =(F, E, A, B, D, C) c 4 =31 OrderCrossover( ) { padre = (B C A F D E), madre =(A B C D F E) } figlio[0] = (A B C F D E), figlio[1]=(b C A D F E) Algoritmi genetici 27

28 p 1 =(A, B, C, D, E, F) c 1 =26 p 5 =(B, F, E, A, C, D) c 5 =35 p 2 =(B, C, A, F, D, E) c 2 =24 p 6 =(A, C, F, B, D, E) c 6 =43 p 3 =(C, B, F, A, D, E) c 3 =29 p 7 =(A, B, C, D, F, E) c 7 =20 p 4 =(F, E, A, B, D, C) c 4 =31 Iterazione (generazione) 1: Supponiamo per semplicità che non ci siano mutazioni (non entriamo nell if) if( random()<=pmut ) { 7. Muta(figlio); 8. Algoritmi genetici 28

29 p 1 =(A, B, C, D, E, F) c 1 =26 p 5 =(B, F, E, A, C, D) c 5 =35 p 2 =(B, C, A, F, D, E) c 2 =24 p 6 =(A, C, F, B, D, E) c 6 =43 p 3 =(C, B, F, A, D, E) c 3 =29 p 7 =(A, B, C, D, F, E) c 7 =20 p 4 =(F, E, A, B, D, C) c 4 =31 Iterazione (generazione) 1: Si aggiorna la popolazione Aggiorna(popolazione, figlio); 10. Algoritmi genetici 29

30 p 1 =(A, B, C, D, E, F) c 1 =26 p 5 =(B, F, E, A, C, D) c 5 =35 p 2 =(B, C, A, F, D, E) c 2 =24 p 6 =(A, C, F, B, D, E) c 6 =43 p 3 =(C, B, F, A, D, E) c 3 =29 p 7 =(A, B, C, D, F, E) c 7 =20 p 4 =(F, E, A, B, D, C) c 4 =31 Aggiorna( ) { Si calcola la funzione di costo per i figli figlio[0]: (A B C F D E) =24 figlio[1]: (B C A D F E) =20 } Algoritmi genetici 30

31 p 1 =(A, B, C, D, E, F) c 1 =26 p 5 =(B, F, E, A, C, D) c 5 =35 p 2 =(B, C, A, F, D, E) c 2 =24 p 6 =(A, C, F, B, D, E) c 6 =43 p 3 =(C, B, F, A, D, E) c 3 =29 p 7 =(A, B, C, D, F, E) c 7 =20 p 4 =(F, E, A, B, D, C) c 4 =31 Aggiorna( ) { Questo è un caso fortunato in cui entrambi i figli entrano a far parte della popolazione. Gli individui da eliminare pertanto risultano essere p 6 avendo un costo di 43 e p 5 avendo un costo di 35. } Algoritmi genetici 31

32 p 1 =(A, B, C, D, E, F) c 1 =26 p 5 =(A, B, C, F, D, E) c 5 =24 p 2 =(B, C, A, F, D, E) c 2 =24 p 6 =(B, C, A, D, F, E) c 6 =20 p 3 =(C, B, F, A, D, E) c 3 =29 p 7 =(A, B, C, D, F, E) c 7 =20 p 4 =(F, E, A, B, D, C) c 4 =31 Aggiorna( ) { A cui sostituiamo figlio[0] e figlio[1] } Algoritmi genetici 32

33 p 1 =(A, B, C, D, E, F) c 1 =26 p 5 =(A, B, C, F, D, E) c 5 =24 p 2 =(B, C, A, F, D, E) c 2 =24 p 6 =(B, C, A, D, F, E) c 6 =20 p 3 =(C, B, F, A, D, E) c 3 =29 p 7 =(A, B, C, D, F, E) c 7 =20 p 4 =(F, E, A, B, D, C) c 4 =31 Iterazione (generazione) 2: Siamo alla seconda generazione e già si può notare che gli individui si sono adattati ed iniziano ad avvicinarsi alla soluzione ottima del problema while(condizione_di_terminazione==false) { 4. SelezionaGenitori(popolazione, padre, madre); 5. Algoritmi genetici 33

34 Si reitera il procedimento finchè la condizione di terminazione non è verificata nel qual caso si ritorna l individuo migliore della generazione a cui si è giunti, il quale è anche la miglior soluzione trovata fin ora. Algoritmi genetici 34

35 Conclusioni Gli agloritmi genetici possiedono i seguenti pregi: Forniscono sempre una soluzione Sono facili da realizzare Possono essere applicati a diverse problematiche Permettono di scegliere un trade-off tra tempo di calcolo e precisione Ma presentano anche degli svantaggi come per esempio: Non garantiscono che la soluzione offerta dopo un certo numero di iterazioni sia quella ottima La numerosità della generazione, la frequenza di applicazione degli operatori genetici, e tutti gli altri paramenti possono essere determinati solo attraverso prove, valutando le performance e la qualità dei risultati offerti. Algoritmi genetici 35

36 Per saperne di più LIBRI J.H.Holland. Algoritmi genetici. Le Scienze, n.289, 1992 L.Davis. Handbook of Genetic Algorithms. Van Nostrand Reinhold, 1991 J. H. Holland. Adaptation in Natural and Artificial Systems. The University of Michigan Press, 1975 M. Mitchell. An Introduction to Genetic Algorithms. MIT Press, Algoritmi genetici 36

37 Per saperne di più SITI INTERNET Contieni riferimenti matematici e filosofici sugli AG e l'intelligenza Artificiale in genere Contiene una spiegazione teorica sugli AG in generale, e una loro applicazione al campo dell'analisi finanziaria Una raccolta di lucidi sull'apprendimento delle macchine tramite AG Contiene diverse applet in java con esempi di funzioni in 2D e 3D e TSP risolte con gli AG Sito di un ricercatore italiano che contiene numerosi link Contiene una ricca raccolta di codici sorgenti in C, C++, fortran,vb ecc. di programmi che implementano AG, nonchè una lista di link che sugli AG,contiene interessanti riferimenti sulla vita artificiale in genere Algoritmi genetici 37