Ingegneria della Conoscenza e Sistemi Esperti Lezione 9: Evolutionary Computation

Transcript

1 Ingegneria della Conoscenza e Sistemi Esperti Lezione 9: Evolutionary Computation Dipartimento di Elettronica e Informazione Politecnico di Milano Evolutionary Computation Raggruppa modelli di calcolo che si ispirano alla metafora della genetica delle popolazioni alla teoria di Darwin sull evoluzione Fra gli altri ne fanno parte Algoritmi Genetici Strategie Evolutive Genetic Programming (programmazione genetica) 1

2 Caratteristiche Principali Popolazione di individui che evolve nel tempo Meccanismo di selezione che favorisce la sopravvivenza degli individui migliori Meccanismi per lo scambio di patrimonio genetico Meccanismi di mutazione Evoluzione Naturale e Artificiale Evoluzione Naturale Non è diretta Dipende dall ambiente con cui gli indivui vivono Gli individui sono migliori se sopravvivono e si adattano all ambiente Evoluzione Artificiale È diretta e quindi può essere paragonata all allevamento L allevatore decide quali sono gli individui migliori da selezionare Le mutazioni possono essere ancora casuali ma in alcuni casi decise anche dall allevatore 2

3 Algoritmi Evolutivi Simulano l attività di un allevamento Esiste una popolazione finita di individui Mutazioni possono accadere in maniere casuale ma anche indotte La selezione degli elementi migliori avviene secondo un criterio predefinito Quando un individuo è migliore? Nell evoluzione naturale, è la sopravvivenza che determina se e quanto un individuo è migliore di un altro In un allevamento, è l allevatore che decide quali individui sono da preferire Negli algoritmi evolutivi, viene definita una funzione di fitness che associa un punteggio numerico ad ogni individuo Più alto il punteggio, migliore l individuo 3

4 Cosa sono gli Algoritmi Genetici? Sono algoritmi di ottimizzazione inventati da John Holland, intorno al 1975 Vengono utilizzati per trovare il massimo o il minimo di una certa funzione obiettivo Quando e perchè vengono utilizzati? Quando altri metodi noti non sono applicabili Si possono applicare quasi in ogni problema Come l evoluzione naturale, richiedono più tempo di altri metodi È consigliabile utilizzarli solo quando non ci sono altre possibilità Applicazioni al Data Mining: GA-MINER e altri... 4

5 Algoritmi Genetici (Holland 1975) Popolazione È costituita da un insieme di stringhe binarie (gli individui) di lunghezza finita Selezione Viene definita una funzione di fitness che associa ad ogni invividuo un punteggio numerico Ogni individuo ha una probabilità di sopravvivenza proporzionale alla propria fitness Mutazione e Riproduzione Avviene attraverso due operatori, crossover e mutazione, che ricombinano e mutano il patrimonio genetico degli individui Un po di terminologia Evoluzione Naturale Fitness Cromosoma/Individuo Gene Allele Evoluzione Artificiale Funzione di Fitness/Obiettivo Stringa/Soluzione Gene/Parametro/Feature Allele Allele/Valore del Parametro Fitness Cromosoma/Individuo Gene 5

6 Algoritmi Genetici - Algoritmo t : = 0 Inizializza la popolazione iniziale P(t) con N individui generati in maniera casuale RIPETI Calcola la fitness per tutti gli elementi di P(t) Genera Pr(t+1) da P(t) applicando l operatore di RIPRODUZIONE Genera Pc(t+1) da Pr(t+1) applicando l operatore di CROSSOVER Genera Pm(t+1) da Pc(t+1) applicando l operatore di MUTAZIONE a Pc(t+1) P(t+1) := Pm(t+1) t := t+1 FINO alla Condizione di Terminazione Algoritmi Genetici - Selezione Individuo Fitness Prob. di Riproduzione P r (x i ) x 1 Μ x j Μ x n f ( x 1 ) Μ f( x j ) Μ f ( x n ) f ( x 1 ) ( ) f x j ( ) f x n n i=1 n i=1 n i=1 f ( x i ) f ( x i ) f ( x i ) Ogni individuo ha una probabilità di riprodursi proporzionale a P r (x i ) 6

7 Algoritmi Genetici - Selezione Individui Fitness Probabilità f(00100) = 50 Pr(00100) = f(01001) = 25 Pr(01001) = f(00011) = 25 Pr(00011) =.25 Selezione dei discendenti tramite ROULETTE Crossover Vengono scelte (N/2) p c coppie di individui in maniera casuale dalla popolazione. Un punto di taglio viene scelto in maniera casuale all interno degli individui e il crossover è eseguito. 7

8 Mutazione Ogni allele di un individuo è mutato con probabilità P m Problema Esempio - Ottimizzazione di Funzione Si vuole massimizzare la funzione y=x 2 sull intervallo intero [0..31] Passi Scegliere una codifica per gli elementi dello spazio di ricerca Scegliere una funzione di fitness Applicazione dell algoritmo genetico 8

9 Codifica Esempio - Ottimizzazione di Funzione Scegliamo la classica codifica binaria Ci sono 32 valori possibili e quindi sono necessari 5bit Funzione di Fitness La funzione di fitness è la stessa funzione da massimizzare y=x 2 Esempio: f(00100) = 4 2 = 16 Popolazione Iniziale {01101, 11000, 01000, 10011} Esempio - Ottimizzazione di Funzione Selezione N Stringa f(s) % Rispetto al Totale % % % % Totale Fitness: 1170 La roulette viene girata 4 volte e seleziona la nuova popolazione {01101, 11000, 11000, 10011} 9

10 Crossover Esempio - Ottimizzazione di Funzione Supponiamo di avere una Probabilità di Crossover pari a 0.5. P c = 0.5 Vengono scelte casualmente (N/2)* P c coppie di individui cioè (4/2)*.5 = 1 coppia di individui e il punto di crossover La Nuova Popolazione {01100, 11001, 11000, 10011} Mutazione Esempio - Ottimizzazione di Funzione Con una probabilità di mutazione P m =0.01 viene cambiato un il valore di un gene (allele) dell individuo Nuova Popolazione {01100, 11001, 11000, 11011} 10

11 Esempio - Problema del Commesso Viaggiatore Problema Otto città collegate Dobbiamo trovare il percorso minimo che passa per tutte le città Primo Passo: Scelta di una rappresentazione adeguata Stringa binaria? Oppure Esempio - Problema del Commesso Viaggiatore Secondo Passo: Scelta di una funzione di fitness Ad esempio possiamo definire Fitness(percorso) = (lunghezza) -1 Terzo Passo: Definizione degli operatori di crossover e mutazione Crossover standard Crossover Ridefinito 11

12 Esempio - Problema del Commesso Viaggiatore Quarto passo: Scelta di un criterio di stop Fisso il numero di cicli Il processo si ferma quando non ci sono miglioramenti Genetic Programming È l applicazione degli algoritmi genetici al caso in cui gli individui sono programmi La fitness viene valutata eseguendo il programma Pone notevoli quesiti Quale paradigmi di programmazione? Quale linguaggio? Quale sottoinsieme di istruzioni? E problemi Terminazione? 12

13 Rappresentazione degli Individui Tradizionalmente la Genetic Programming rappresenta gli individui tramite s-espressioni LISP Vengono selezionati un insieme di simboli terminali T e di simboli di funzione F Ad esempio T={X, Z, 0.234, 0.789} F={+, -, *} Regressione Simbolica Problema Dato un insieme di coppie <x 1,y 1 > <x n,y n > trovare una funzione che meglio approssima i punti della funzione Primo Passo: Scelta dei terminali e delle funzioni Terminali T={X} Funzioni F={+, -, *, /, sin, exp, cos, log} Secondo Passo: Scelta della fitness Errore quadratico fra gli y i e i valori approssimati dall individuo Terzo Passo: Definizione degli operatori di crossover e mutazione 13

14 Regressione Simbolica - Crossover Regressione Simbolica - Mutazione La mutazione viene solitamente implementata con un crossover fra l individuo ed un individuo generato in maniera casuale 14

15 Regressione Simbolica - Esempio di Soluzione Supponiamo che i dati vengano generati dalla funzione x 4 + x 3 + x 2 + x Una possibile soluzione è data dall individuo qui rappresentato 15