Intelligenza Artificiale Ing. Tiziano Papini

Transcript

1 Intelligenza Artificiale Ing. Tiziano Papini Web:

2 Constraint Satisfaction metodi riparativi Intelligenza Artificiale - CSP Tiziano Papini

3 Metodi Riparativi (Ricerca Locale) Si parte da uno stato pieno : cioè con tutte le variabili assegnate. Per rientrare nel framework CSP: Si consentono stati con violazione dei vincoli Gli operatori sono di riassegnamento di valori a variabili e non di assegnamento. Si usano tecniche di ottimizzazione locale: Min-Conflicts Hill-climbing Simulated annealing Algoritmi Genetici Intelligenza Artificiale - CSP Tiziano Papini

4 Metodi Riparativi vs. Costruttivi Gli algoritmi costruttivi funzionano bene soprattutto su CSPbinari (o con pochi vincoli e pochi valori): Es: complex di AC-3 = O(nk 3 ) dipende da k=valori e n=archi Diventano poco gestibili con Constraint Networks ad arità maggiore e con molti valori. Es: N-regine con N > Gli algoritmi riparativi, locali, forniscono meno garanzie teoriche, ma nel caso di problemi molto complessi risultano efficienti nella pratica. Gli algoritmi riparativi non sono completi. Si tratta infatti di algoritmi locali. Intelligenza Artificiale - CSP Tiziano Papini

5 Conformazione dello spazio degli stati Intelligenza Artificiale - CSP Tiziano Papini

6 Ricerca in salita (Hill climbing) parti dallo stato corrente e cerca di migliorarlo strategia hill-climbing prevede di espandere lo stato corrente e valutare i discendenti: il migliore nodo generato viene scelto per una ulteriore espansione; ne fratelli ne genitori sono memorizzati scalatore ansioso ma cieco non si tiene traccia della storia: non può tornare indietro dai fallimenti Intelligenza Artificiale - CSP Tiziano Papini

7 Hill-climing Intelligenza Artificiale - CSP Tiziano Papini

8 Hill-climing Per sfuggire ai massimi locali, è utile eseguire l algoritmo più volte partendo da stati iniziali (casuali) diversi; Un problema è dato dalle porzioni piane dello spazio degli stati: Se la pianura è una spalla, eseguire degli spostamenti laterali random consente di uscire fuori dalla spalla; Se la pianura è un massimo locale piatto, gli spostamenti laterali random portano l algoritmo in un loop conviene porre un limite massimo al numero di spostamenti laterali consecutivi. Intelligenza Artificiale - CSP Tiziano Papini

9 Varianti stochastic hill climbing non sceglie sempre il migliore first-choice hill climbing prende il primo buon successore (utile se il numero di successori è grande) random restart cerca il punto migliore da diversi punti di partenza ovviamente la probabilità di trovare il massimo aumeta con l aumentare del numero di tentativi Intelligenza Artificiale - CSP Tiziano Papini

10 Simulated Annealing Simulated Annealing: (~ tempera simulata) Idea: imitare quello che succede nel processo di tempera la tempera è il processo nel quale il metallo viene riscaldato e poi raffreddato lentamente A partire dal metallo fuso, la temperatura viene abbassata lentamente e il sistema transita da uno stato energetico al successivo fino a quando il metallo solidifica nello stato di minima energia Intelligenza Artificiale - CSP Tiziano Papini

11 Simulated annealing (Kirkpatrick, Gelatt & Vecchi, 1983) Intelligenza Artificiale - CSP Tiziano Papini

12 Simulated annealing Originariamente sviluppato negli anni 50 per modellare processi fisici (meccanica statistica); Convergenza: Si può mostrare che, se la temperatura viene abbassata abbastanza lentamente, allora la probabilità di trovare l ottimo globale tende a 1; Efficienza: Simulated annealing può non essere sufficientemente rapido a trovare la soluzione. Infatti, il tempo necessario a garantire che la probabilità di trovare la soluzione sia significativamente alta può diventare così lungo da rendere l algoritmo meno efficiente di una ricerca globale. Intelligenza Artificiale - CSP Tiziano Papini

13 Simulated Annealing L approccio di riparazione ha due modelli puri opposti: Hill-climbing: si segue uno schema di costante ascesa. Migliora gli stati ma si ferma nei massimi locali (si può ricominciare da uno stato iniziale diverso: Iterative Hill-Climbing) Random Walk: è completo, ma non cerca di migliorare gli stati. Simulate Annealing: generalizzazione che combina l hill-climbing con il random walk per ottenere completezza ed efficenza: Invece di fare la migliore scelta se ne fa una random. IF la scelta migliora lo stato attuale allora si accetta. ALTRIMENTI la scelta è accettata con una probabilità < 1 La probabilità è relata al peggioramento prodotto: exp(- /T) è dato dalla differenza di valore degli stati (peggioramento). T è la temperatura = se è alta si accettano molti peggioramenti Si tende a far decrescere la temperatura durante la ricerca. Intelligenza Artificiale - CSP Tiziano Papini

14 Local beam search Idea: Anzichè tenere in memoria un solo stato, teniamo in memoria k stati; Ad ogni passo, generiamo un insieme di successori per ciascuno stato: Se uno qualsiasi tra tutti i successori è una soluzione, l algoritmo si arresta; Altrimenti, selezioniamo i k migliori successori dentro tutta la lista e proseguiamo la ricerca. Stochastic beam search: Anzichè scegliere i k migliori successori, scegliamo k successori a random, dove la probabilità che uno stato venga selezionato è proporzionale allo score di quello stato; Nota: beam search con k thread è ben diverso che eseguire in parallelo k thread indipendenti. Intelligenza Artificiale - CSP Tiziano Papini

15 Min-Conflicts (Minton, 92) Intelligenza Artificiale - CSP Tiziano Papini

16 Min-Conflicts (Minton, 92) Si sceglie una configurazione iniziale (random) Ripeti: Prendi una variabile x i in conflitto (random) Assegna a x i il valore che minimizza il numero di conflitti Se la configurazione è valida allora RETURN ASSEGNAZIONE, altrimenti CONTINUE Intelligenza Artificiale - CSP Tiziano Papini

17 Min-Conflicts - vantaggi E estremamente efficace per problemi come quello delle n-regine. Risolti problemi di milioni di regine (con solo ~50 iterazioni partendo da assegn. random!). Con algoritmi costruttivi è impossibile. E estremamente utile (ed efficace) in problemi CSP reali, come quelli di scheduling: Perché se c è una variazione nei vincoli (es: cambio di orario di un professore nel problema del Class Scheduling) non si deve ricominciare da capo. E quindi un sistema che può far fronte ad un ambiente dinamico: online-csp. Ha risolto il problema dello scheduling delle osservazioni del Telescopio Hubble. Può essere usato in forma iterativa o in associazione con algoritmi locali come simulated-annealing Problema: Anche Min-conflicts è soggetto a minimi locali. (Tuttavia, è così efficiente che eseguirlo più volte è di solito poco costoso). Intelligenza Artificiale - CSP Tiziano Papini

18 Algoritmi genetici - Storia Gli Algoritmi Genetici (AG) furono proposti da John Holland (Univeristà del Michigan) tra la fine degli anni 60 e l inizio degli anni 70 Gli AG (Holland, 1975, Goldberg, 1989) sono algoritmi di ricerca che si ispirano ai meccanismi della selezione naturale e della riproduzione sessuale Gli AG simulano l'evoluzione di una popolazione di individui, che rappresentano soluzioni candidate di uno specifico problema, favorendo la sopravvivenza e la riproduzione dei migliori Intelligenza Artificiale - CSP Tiziano Papini

19 Algoritmi genetici Si ispirano al meccanismo dell evoluzione Viene creata una popolazione di individui che si riproduce ed evolve, di generazione in generazione, selezionando gli individui migliori cioè quelli che meglio si adattano ad un determinato ambiente. Intelligenza Artificiale - CSP Tiziano Papini

20 Algoritmi genetici viene generata una popolazione iniziale di individui mediante un meccanismo di riproduzione vengono generati nuovi individui, manipolando il materiale genetico della popolazione iniziale gli individui competono tra loro e quelli che meglio si adattano all ambiente hanno maggiori probabilità di sopravvivenza e di trasmettere il patrimonio genetico alle generazioni future la popolazione evolve, di generazione in generazione, incrementando il numero degli individui migliori in essa presenti. Intelligenza Artificiale - CSP Tiziano Papini

21 Modello matematico x f(x), fitness selection crossover, mutation ottimo globale individuo adattamento all ambiente competizione riproduzione individuo migliore Intelligenza Artificiale - CSP Tiziano Papini

22 Algoritmo Initial population Start Reproductive cycle Fitness evaluation YES Fully populated? MUTATION p mut Stop criterion satisfied? NO NO SELECTION #1,#2 CROSSOVER p cross YES Stop Intelligenza Artificiale - CSP Tiziano Papini

23 Realizzazione dell algoritmo I passi base sono: 1. Codifica delle soluzioni 2. Popolazione iniziale 3. Calcolo della fitness 4. Selezione 5. Applicazione degli operatori 6. Iterazione e criterio di stop Intelligenza Artificiale - CSP Tiziano Papini

24 Codifica delle soluzioni Codifica binaria o con numeri reali. Codifica binaria standard, codifica di Gray. N s : numero di bit; risoluzione discretizzazione variabile continua Cromosoma: unione delle stringhe binarie che rappresentano le variabili. Ogni bit è detto gene. Il valore che può assumere il bit (0,1) è detto allele. La lunghezza L c del cromosoma: L c =N s 1 + N s 2 + +N s P Dimensione dello spazio di ricerca: 2 L c Intelligenza Artificiale - CSP Tiziano Papini

25 L originario modello di Holland L originario modello di Holland opera su su una popolazione P di n stringhe di bit (dette individui o genotipi) di lunghezza l fissata Intelligenza Artificiale - CSP Tiziano Papini

26 Popolazione iniziale La popolazione iniziale viene creata generando gli individui in maniera casuale. Il numero N p di cromosomi generati è la dimensione della popolazione N p è scelto in maniera euristica ed è dipendente dalla natura della funzione obiettivo e dalle dimensioni dello spazio di ricerca Negli AG standard N p rimane fisso durante l evoluzione Intelligenza Artificiale - CSP Tiziano Papini

27 Fitness e funzione obiettivo La funzione obiettivo gioca il ruolo dell ambiente nel corso dell evoluzione. funzione obiettivo = fitness dell individuo? Sì, in genere, a meno di scaling, ranking o normalizzazioni. Eventuali vincoli di eguaglianza possono essere trattati inserendo termini penalizzanti nella funzione obiettivo. Intelligenza Artificiale - CSP Tiziano Papini

28 L operatore di selezione La selezione naturale Darwiniana sostiene che gli individui più forti abbiano maggiori probabilità di sopravvivere nell ambiente in cui vivono e, dunque, maggiore probabilità di riprodursi Nel contesto dell AG di Holland, gli individui più forti sono quelli con fitness più alta, poiché risolvono meglio di altri il problema di ricerca dato; per questo essi devono essere privilegiati nella fase di selezione di quegli individui che potranno riprodursi dando luogo a nuovi individui Intelligenza Artificiale - CSP Tiziano Papini

29 Selection roulette wheel: la popolazione è rappresentata mediante una ruota di roulette con i settori proporzionali alla fitness degli elementi; la pallina viene lanciata N p volte e gli elementi che hanno fitness migliore hanno probabilità maggiore di essere scelti. tournament selection: vengono scelti 2 individui a caso e quello tra i due che ha la fitness migliore viene copiato nella nuova popolazione; l operazione viene ripetuta N p volte; prima della selezione gli individui vengono mescolati (shuffle). Intelligenza Artificiale - CSP Tiziano Papini

30 Selection (II) Si può riportare nella nuova generazione l elemento migliore della precedente popolazione: elitismo. Alla fine della selezione gli individui della popolazione intermedia vengono mischiati casualmente Intelligenza Artificiale - CSP Tiziano Papini

31 Operatori genetici Crossover 1 punto genitori figli punti Per ogni coppia, il crossover viene applicato con probabilità P c. Si scelgono a caso due individui nel mating pool (genitori) e un punto di taglio (punto di crossover) su di essi. Le porzioni di genotipo alla destra del punto di crossover vengono scambiate generando due discendenti. Intelligenza Artificiale - CSP Tiziano Papini

32 Operatori genetici Mutation Per ogni individuo, la mutation viene applicata con probabilità P m. L operatore di crossover ricombina il materiale genetico esistente. L operatore di mutation introduce nuovo materiale genetico. P c e P m si scelgono in maniera euristica e in genere P m <P c (possono variare durante l evoluzione). Intelligenza Artificiale - CSP Tiziano Papini

33 Operatori genetici Selection Crossover Mutation Intelligenza Artificiale - CSP Tiziano Papini

34 Criterio di arresto Il meccanismo di selezione, ricombinazione e calcolo della fitness viene iterato. L evoluzione termina quando viene raggiunto l ottimo, se questo è noto. Altrimenti l evoluzione termina quando: viene raggiunto il numero massimo N g di generazioni; il numero totale N t di valutazioni della funzione obiettivo N t = N p * N g un indicatore di convergenza (uniformità della popolazione, mancanza di progressi nell evoluzione) raggiunge un determinato valore Intelligenza Artificiale - CSP Tiziano Papini

35 Ricapitolando Si parte con k stati iniziali casuali (la popolazione); Ogni stato successore è generato da due stati genitori, combinando due meccanismi: crossover (a punto singolo o doppio); mutazione. Crossover e mutazione possono operare su uno di due tipi diversi di codifica dello stato: codifica diretta; codifica binaria. I genitori vengono selezionati in base alla loro fitness, in base a uno di tanti meccanismi possibili. Intelligenza Artificiale - CSP Tiziano Papini

36 Algoritmi genetici: Pseudocodice Intelligenza Artificiale - CSP Tiziano Papini

37 Algoritmi genetici: Esempio In questo esempio: k = 4, la codifica è diretta, la fitness di uno stato è il numero di coppie di regine che non si attaccano, la selezione è proporzionale alla fitness, il crossover è a punto singolo. Intelligenza Artificiale - CSP Tiziano Papini

38 Algoritmi genetici: Crossover Il crossover è realmente utile solo se le sottostringhe della codifica di uno stato sono dei blocchi costituenti della soluzione. Intelligenza Artificiale - CSP Tiziano Papini

39 Evolved Virtual Creatures Karl Sims (1994) Evoluzione Darwiniana applicata a creature virtuali Elementi in gioco: Feature Vincoli Fitness geometria degli oggetti fisica degli elementi (attritto, urti, ecc) Distanza percorsa per unità di tempo Simulazione ricerca di oggetti (rapidità avvicinamento) Lotta per prendere un oggetto (numero di volte in cui ho preso l'oggetto) Intelligenza Artificiale - CSP Tiziano Papini