Algoritmica (A.A ): indice delle lezioni

Transcript

1 Algoritmica (A.A ): indice delle lezioni Mauro Leoncini 1 Lezione del 2 marzo 2005 (3h) Informazioni generali sul corso Suddivisione in moduli e crediti formativi corrispondenti. Libro di testo e altro materiale didattico. Modalità d esame. Ricevimento studenti. Pagina web di riferimento. Algoritmi Nozioni di algoritmo, linguaggio ed interprete. Esempio della preparazione del caffè. Azioni elementari dell interprete. Programmi e linguaggi di programmazione (imperativa). Utilità di uno pseudocodice. Numeri di Fibonacci Crescita di una popolazione di conigli. matematico e numeri di Fibonacci {F n } n 1. Modello Calcolo diretto Formula chiusa per F n. È stato ricordato come il calcolo diretto richieda in realtà un algoritmo (non sia cioè traducibile in una semplice azione elementare dell interprete) e come questo fatto, se non correttamente individuato, possa portare a conclusioni errate riguardo il costo (tempo) di esecuzione del programma. Problemi di arrotondamento nel calcolo della formula diretta. Un algoritmo ricorsivo Calcolo del tempo di esecuzione in termini di numero di linee di codice eseguite. Prima spiegazione del perché non si usa una misura diretta (secondi o multipli di secondo) per indicare il tempo di esecuzione degli algoritmi. Albero della ricorsione. Definizioni base: nodi interni e foglie. Conteggio del numero di foglie e del numero di nodi interni dell albero della ricorsione. Considerazioni sul tempo di esecuzione. Un algoritmo iterativo Calcolo bottom-up di F n. Tecnica della programmazione dinamica. Calcolo del tempo di esecuzione. 1

2 Occupazione di memoria Importanza di algoritmi efficienti sia dal punto di vista del tempo sia da quello dell occupazione di memoria. Un secondo algoritmo iterativo Modifica all algoritmo precedente che consente di utilizzare solo un numero costante di celle di memoria. Notazione asintotica Riconsiderazione della misura di costo come numero di linee di codice. Costanti moltiplicative. Dipendenza delle costanti, nei programmi reali, da molti fattori (es., velocità del processore, qualità del codice e del compilatore). Notazione asintotica e sua utilità in fase di modellazione algoritmico/matematica. Cenno al fatto (che verrà verificato in laboratorio) che le costanti nascoste possono essere determinate sperimentalmente su ogni particolare architettura. Algoritmo di costo sublineare Presentazione ( ) dell algoritmo basato sulla 1 1 esponenziazione della matrice. Dimostrazione del costo lasciata ad una lezione 1 0 successiva. Misura delle istanze In funzione di che cosa deve essere calcolato il costo (in tempo e/ spazio) dell esecuzione di un programma? Nozione di dimensione di un istanza. Nozione di codifica compatta. Rivisitazione del costo dei vari algoritmi presentati. 2 Lezione del 3 marzo 2005 (2h) Modelli di calcolo Caratteristiche richieste ad un modello per l analisi degli algoritmi (anche in relazione all utilizzo della notazione asintotica). Interprete idealizzato: macchina a registri e macchina a puntatori. Criteri di costo Costo uniforme e costo logaritmico. Riflessione su criterio di costo logaritmico e rappresentazione compatta dei problemi. Esempio: calcolo del costo di esecuzione dell algoritmo Fibonacci3 con criterio uniforme (O(n)) e logaritmico (O(n 2 ). Metodologia di analisi Individuazione delle operazioni più costose e/o più frequentemente utilizzate. Analisi del caso più favorevole (best-case), di quello più sfavorevole (worst-case) e del caso medio (average-case). Semplicissimi elementi di probabilità. 2

3 Ricerca sequenziale e ricerca binaria Algoritmo per la ricerca sequenziale di una chiave in una lista di chiavi. Analisi best-, worst- e averagecase. Algoritmo che implementa la ricerca dicotomica (o binaria). Verifica informale della correttezza mediante analisi di due esempi. 3 Lezione del 4 marzo 2005 (2h) Ricerca binaria Analisi best-case, worst-case e average-case dell algoritmo di ricerca binaria presentato ieri. Limiti superiori e inferiori di complessità Precisazione sul significato delle locuzioni Costo di un algoritmo e complessità di un problema. Limiti inferiori e superiori di complessità. Notazioni asintotiche O, Ω e Θ. Strutture dati elementari Nozione di tipo di dato e di struttura dati. 4 Lezione del 10 marzo 2005 (1h) Puntatori Nozione di puntatore. Differenza fra variabili di tipo T e puntatori ad oggetti di tipo T. Discussione di un esempio di programma C++ che utilizza i puntatori. Il problema del ridimensionamento di un array. Rappresentazione di collezioni di dati Liste lineari. Record e costrutto struct del C++. Programma per la creazione di una lista lineare. Implementazione del tipo astratto stack mediante liste lineari. 5 Lezione dell 11 marzo 2005 (2h) Code Tipo astratto queue. Cenni all implementazione (che verrà svolta in laboratorio) mediante liste collegate e mediante array. Costo delle operazioni base di stack e queue nelle due implementazioni (array e puntatori). Alberi Alberi liberi (free tree) e alberi radicati (rooted tree). Definizioni base. Radice, foglie, nodi interni, genitori, figli e discendenti. Livelli, 3

4 profondità e altezza. Grado di un nodo. Alberi binari e alberi d-ari. Alberi d-ari completi. Rappresentazione di alberi Rappresentazioni indicizzate: vettore dei padri e vettore posizionale. Rappresentazioni collegate: differenti problematiche nelle situazioni in cui il grado limitato da una piccola costante ovvero in cui il grado non è limitato a priori oppure è una costante elevata. Caso degli alberi binari. Uso di vettori per memorizzare i puntatori ai figli. Rappresentazione mediante liste dei figli e mediante tecnica primo figlio-fratello successivo. Visita di un albero Algoritmo di visita generica. Uso di pile o code some strutture di supporto. Visita in profondità (Depth-first search) e visita in ampiezza (Breadth-first search). 6 Lezione dell 17 marzo 2005 (2h) Ordinamento Il problema dell ordinamento di un iniseme di chiavi. Chiavi e dati satellite. Ordinamento mediante il solo confronto di chiavi. Proprietà di stabilità e di ordinamento in loco. Metodi elementari Metodi di costo O(n 2 ). Ordinamento per selezione e ordinamento per inserzione. Valutazione del costo. Ordinamento a bolle (solo cenni). Heapsort Struttura heap. Rappresentazioni alternative (come array e come albero binario completo). Algoritmo per costruire uno heap e per ripristinare la proprietà di heap. Algoritmo heapsort. Valutazione del costo computazionale (O(n log n) worst-case). 7 Lezione dell 18 marzo 2005 (2h) Heapsort Pseudocodice completo dell algoritmo. Mergesort Tecnica di progettazione divide-et-impera (divide-and-conquer). Descrizione dell algoritmo mergesort: suddivisione del problema in due sottoproblemi (divide) e ricombinazione (merge). Pseudocodice completo. 4

5 Analisi di algoritmi ricorsivi Metodo dell iterazione e derivazione del costo del mergesort. Teorema fondamentale delle ricorrenze (senza dimostrazione). Quicksort Presentazione dell idea algoritmica (sempre del tipo divide-etimpera). Specularità rispetto al mergesort. Procedura di partizionamento. Pseudocodice. 8 Lezione del 31 marzo 2005 (2h) Quicksort Correttezza dello pseudocodice. Analisi worst-case. Cenni sul comportamento nel caso medio. Complessità del sorting Modello di calcolo degli alberi decisionali. Derivazione di un limite inferiore di complessità Ω(n log n) valido per gli algoritmi di ordinamento che utilizzano solo confronti fra chiavi. 9 Lezione del 1 aprile 2005 (2h) Ordinamento in tempo lineare Ordinamento di n numeri nell intervallo 1 k. Integer sort (o Counting sort). Estensione dell idea alla base del counting sort al caso di k (moderatamente) elevato (radix sort) e al caso dell ordinamento di record con campi di natura arbitraria (bucket sort). Algoritmi geometrici Problema del calcolo dell inviluppo convesso di un insieme di n punti nel piano. Cenni ad applicazioni nei settori della robotica (aggiramento di ostacoli) e della computer animation (rilevamento di collisioni). Intuizione per un primo algoritmo. 10 Lezione del 7 aprile 2005 (2h) Algoritmi geometrici Costo worst-case dell algoritmo intuitivo. Scansione di Graham. Determinazione della curva (destra o sinistra) formata da tre punti ordinati. Calcolo del costo della scansione di Graham. Statistiche d ordine Definizione di media, moda e mediana. Mediana come n/2-esima statistica d ordine. Calcolo della k-esima statistica 5

6 d ordine per valori piccoli di k. Algoritmo del torneo per il calcolo del secondo minimo. 11 Lezione dell 8 aprile 2005 (2h) Statistiche d ordine Algoritmo heapselect per il calcolo efficiente della k- esima statistica d ordine (con k = O(n/ log n)). Algoritmo quickselect per il calcolo (randomizzato) del mediano (e per qualunque k-esima statistica d ordine). Cenni al costo worst-case e average-case di quickselect. Tecniche algorimiche Caratteristiche generali della tecnica divide-et-impera (ricordando gli algoritmi mergesort e quicksort). Moltiplicazione di numeri interi di grandezza arbitraria in tempo subquadratico. Cenni al prodotto di matrici. Caratteristiche generali della tecnica della programmazione dinamica (ricordando il primo algoritmo iterativo per il calcolo dei numeri di Fibonacci). Problema della minima distanza di edit fra due stringhe. 12 Lezione del 14 aprile 2005 (2h) Programmazione dinamica Problema della minima distanza di edit fra due stringhe. Caratterizzazione e calcolo del costo della soluzione ottima. Calcolo esplicito della sequenza di operazioni di costo ottimo. Problema dell allineamento di sequenze biologiche. 13 Lezione del 15 aprile 2005 (2h) Tecnica greedy Caratteristiche generali di un algoritmo greedy (ingordo). Problema del resto. Problema dell ottimalità dell algoritmo greedy rispetto ad un determinato sistema di monete. Algoritmo di programmazione dinamica per il problema del resto. Problemi di scheduling. Scheduling di job e minimizzazione dei tempi di attesa. Scheduling di job caratterizzati da deadline. 6

7 Tecniche algoritmiche Considerazioni generali sulle tecniche studiate ed esistenza di problemi difficili. Esempio del problema del commesso viaggiatore. Grafi Grafi e grafi diretti. Terminologia e definizioni di base (adiacenza di vertici, incidenza di archi, grado di un vertice, cammini e cammini orientati, connettività e connettività in senso forte). 14 Lezione del 21 aprile 2005 (2h) Grafi Cicli in un grafo. Grafi aciclici. Visita di grafi Visita in ampiezza (breadth-first search). Proprietà dell albero T BF S che rappresenta il risultato della visita in ampiezza. Proprietà della distanza (con dimostrazione del Lemma 11.2). Caratterizzazione degli archi del grafo rispetto a T BF S. 15 Lezione del 22 aprile 2005 (2h) Visita di grafi Visita in ampiezza su grafi orientati. Caratterizzazione degli archi del grafo. Visita in profondità (depth-first search), versione ricorsiva. Caratterizzazione degli archi del grafo rispetto all albero T DF S che rappresenta il risultato della visita in profondità. Visita in profondità di grafi orientati. Componenti connesse Componenti connesse di un grafo. Verifica della proprietà di connessione utilizzando una qualunque procedura di visita. Componenti fortemente connesse di un grafo orientato. Algoritmo per il calcolo delle componenti connesse (senza dimostrazione formale di correttezza, ma sviluppando e verificando le intuizioni che ne stanno alla base). 16 Lezione del 28 aprile 2005 (2h) Alberi di copertura Definizione di albero di copertura (spanning tree). Grafi pesati e minimo albero di copertura. Algoritmo di Kruskal, con 7

8 dimostrazione di correttezza. Algoritmo di Prim, con dimostrazione di correttezza. Tempo di esecuzione con implementazione banale. Problemi di cammino minimo su grafi orientati Definizione di cammino di lunghezza minima (o, semplicemente, cammino minimo. Problema del calcolo dei cammini minimi da un vertice a tutti gli altri. 17 Lezione del 29 aprile 2005 (2h) Cammini minimi Proprietà dei cammini minimi: sottostruttura ottimale, esistenza dell albero dei cammini minimi, disuguaglianza triangolare. Problema dei cicli di lunghezza negativa. Operazione del rilassamento di un arco. Intuizione alla base dell algoritmo di Bellman e Ford. Costo computazionale dell algoritmo di Bellman e Ford. Algoritmo di Dijkstra per grafi orientati senza archi di peso negativo. Dimostrazione informale della correttezza dell algortimo di Dijkstra. Costo computazionale dell implementazione banale. 18 Lezione del 5 maggio 2005 (2h) Problema del dizionario Definizione ed operazioni base. Chiavi ed informazione satellite. Implementazione mediante array. Alberi binari di ricerca Definizione. Implementazione delle operazioni search, insert e delete. Costo computazionale nel caso più sfavorevole e nel caso medio (solo cenni). Alberi AVL. Definizione di bilanciamento in altezza. Implicazione sull altezza dell albero. Alberi AVL più sbilanciati: alberi di Fibonacci. 19 Lezione del 6 maggio 2005 (2h) Alberi binari di ricerca Mantenimento del bilanciamento in alberi AVL. Rotazioni. Inserimento e cancellazione di chiavi. Alberi 2-3 Definizione di albero 2-3. Altezza di un albero 2-3. Ricerca di una chiave. 8

9 20 Lezione del 12 maggio 2005 (2h) Alberi 2-3 Inserimento e cancellazione di chiavi in un albero 2-3: divisione (split) e fusione (join) di nodi. B-alberi Problematiche relative alla memorizzazione e al recupero di informazione in memoria secondaria. Operazioni di I/O. Definizione di B-albero. Ricerca di chiavi in un B-albero. Costo di un accesso in termini di operazioni aritmetico/logiche e di I/O. 21 Lezione del 13 maggio 2005 (2h) B-alberi Cenni al problema dell inserimento e della cancellazione di chiavi da un B-albero. Hashing Tabelle (o tavole) ad accesso diretto. Problemi connessi con la cardinalità dell universo di chiavi. Definizione di funzione hash. Funzioni hash perfette. Principio di uniformità semplice. Metodo della divisione. Funzioni hash per chiavi alfanumeriche. Collisioni di chiavi. Tecnica del chaining per il trattamento delle collisioni. 22 Lezione del 19 maggio 2005 (2h) Hashing Indirizzamento aperto (Open addressing), principi base. Funzione di scansione. Scansione lineare e clustering primario. Il problema della cancellazione delle chiavi. Scansione quadratica e custering secondario. Double hashing. Code con priorità Definizione e funzionalità supportate. Applicazioni delle code con priorità (con particolare riferimento alla simulazione per eventi). 23 Lezione del 20 maggio 2005 (2h) Code con priorità Implementazione mediante d-heap. Heap binomiali Definizione e proprietà degli alberi binomiali. Heap binomiale. Implementazione di una coda con priorità mediante heap binomiale. 9

10 24 Lezione del 26 maggio 2005 (2h) Manipolazione di insiemi disgiunti Rivisitazione del problema del calcolo delle componenti connesse di un grafo. Espressione dell algoritmo in termini di operazioni astratte makeset, find e union. Struttura dati union-find. Implementazioni elementari della struttura union-find. Alberi quick find e alberi quick union. Miglioramento della union in strutture quick find: euristica dell unione pesata (o bilanciata). Costo della singola union e costo di una sequenza di al più n 1 union (dove n è il numero delle operazioni makeset eseguite). 25 Lezione del 27 maggio 2005 (2h) Manipolazione di insiemi disgiunti Euristica del bilanciamento per strutture di tipo quick find. Problemi legati all implementazione e presentazione di una struttura dati che consente di migliorare la complessità di una sequenza di operazioni di unione (analisi ammortizzata). Euristica del bilanciamento in altezza (o union by rank) per strutture di tipo quick union. Implicazioni sul costo della singola operazione find (da O(n) a O(log n)). 10