Tipici tempi di esecuzione. Martedì 7 ottobre 2014

Transcript

1 Tipici tempi di esecuzione Martedì 7 ottobre 2014

2 Punto della situazione Abbiamo definito il tempo di esecuzione di un algoritmo Scelto l analisi asintotica Abbiamo definito le notazioni asintotiche che ci permettono di confrontarlo con altri algoritmi o con dei tempi «tipici» di esecuzione: logaritmico, lineare, polinomiale, etc. Perché queste funzioni sono «tempi tipici di esecuzione»?

3 Tempo di esecuzione Tempo di esecuzione T(n) è il numero di operazioni elementari per eseguire l algoritmo su un input di taglia n Sono operazioni elementari le operazioni che richiedono tempo costante (= non dipendente dalla taglia n dell input) Per esempio: assegnamento, incremento, confronto Nelle prossime slides vedremo alcuni esempi tipici del calcolo del tempo di esecuzione di algoritmi di tipo iterativo (strutturati come for e while)

4

5

6

7

8

9

10

11 Esercizio (continua)

12 Esempio: InsertionSort Algoritmo di ordinamento di A[1 n] ottenuto mantenendo ad ogni iterazione A[1 j-1] ordinato e inserendovi A[j].

13 Analisi di InsertionSort Più precisamente: Fissato j, il test del while è eseguito un numero di volte fra 1 e j. Da cui n T(n) j= n(n+1) -1 e quindi T(n) = O (n 2 ). 2 j=2 Inoltre T(n) = (n)

14 Linear Time: O(n) Linear time. Running time is at most a constant factor times the size of the input. max a 1 for i = 2 to n { if (a i > max) max a i } Computing the maximum. Compute maximum of n numbers a 1,, a n. 14

15 Linear Time: O(n) Merge. Combine two sorted lists A = a 1,a 2,,a n with B = b 1,b 2,,b n into sorted whole. i = 1, j = 1 while (both lists are nonempty) { if (a i b j ) append a i to output list and increment i else(a i > b j )append b j to output list and increment j } append remainder of nonempty list to output list Claim. Merging two lists of size n takes O(n) time. Pf. After each comparison, the length of output list increases by 1. 15

16 Quadratic Time: O(n 2 ) Quadratic time. Enumerate all pairs of elements. Closest pair of points. Given a list of n points in the plane (x 1, y 1 ),, (x n, y n ), find the pair that is closest (here min is the square of the minimum distance) O(n 2 ) solution. Try all pairs of points. min (x 1 - x 2 ) 2 + (y 1 - y 2 ) 2 for i = 1 to n { for j = i+1 to n { d (x i - x j ) 2 + (y i - y j ) 2 if (d < min) min d } } don't need to take square roots Remark. (n 2 ) seems inevitable, but this is just an illusion. 16

17 Cubic Time: O(n 3 ) Cubic time. Enumerate all triples of elements. Set disjointness. Given n sets S 1,, S n each of which is a subset of 1, 2,, n, is there some pair of these which are disjoint? O(n 3 ) solution. For each pairs of sets, determine if they are disjoint. 17 foreach set S i { foreach other set S j { foreach element p of S i { determine whether p also belongs to S j } if (no element of S i belongs to S j ) report that S i and S j are disjoint } }

18 Polynomial Time: O(n k ) Time Independent set of size k. Given a graph, are there k nodes such that no two are joined by an edge? O(n k ) solution. Enumerate all subsets of k nodes. k is a constant foreach subset S of k nodes { check whether S in an independent set if (S is an independent set) report S is an independent set } } 18 Check whether S is an independent set = O(k 2 ). Number of k element subsets = O(k 2 n k / k!) = O(n k ). n k n (n 1) (n 2) (n k 1) k (k 1) (k 2) (2) (1) nk k!

19 Exponential Time Independent set. Given a graph, what is maximum size of an independent set? O(n 2 2 n ) solution. Enumerate all subsets. S* foreach subset S of nodes { check whether S in an independent set if (S is largest independent set seen so far) update S* S } } Note the differences with Independent set of size k. 19

20 Sub-linear Time: O(log n) Tempo lineare: esamina tutto l input eseguendo operazioni di tempo costante ad ogni passo Tempo sub-lineare: Non è necessario esaminare tutto l input! Esempio. Ricerca binaria: ricerca di un elemento in un array ordinato (per esempio un vocabolario) 20

21

22

23 Molto comune perché O(n log n) Time E il running time di algoritmi divide-and-conquer che dividono l input in due parti, le risolvono ricorsivamente e poi combinano le soluzioni in tempo lineare. Running time di algoritmi di ordinamento. Mergesort e Heapsort usano O(n log n) confronti. Molti algoritmi usano l ordinamento come passo più costoso. Per esempio molti algoritmi basati sulla tecnica greedy 23

24 Un esercizio

25 Algoritmi ricorsivi Riprendiamo l esempio visto nel corso di programmazione: Il calcolo del fattoriale

26 Funzioni definite per ricorsione: il fattoriale Supponiamo di voler calcolare il fattoriale di n. Partiamo dalla sua definizione: da cui otteniamo una definizione del fattoriale in termini di se stesso: n! n ( n 1) n! 0! 1 n ( n 1)! ( n 1)! se n 0 Ricorsione - Ugo de'liguoro Queste equazioni definiscono anche un metodo per calcolare il fattoriale

27 Un programma ricorsivo per il fattoriale n! 1 n ( n 1)! se se n n 0 0 int fact (int n) if (n==0) return 1 else return n * fact(n 1) Chiamata ricorsiva: fact è definito tramite se stesso Ricorsione - Ugo de'liguoro

28 Come funziona il programma ricorsivo per il fattoriale? Simuliamo il calcolo di fact(4) rimpiazzando più volte fact(n) con la sua definizione: fact(4) 4 * fact(3) 4 * (3 * fact(2)) 4 * (3 * (2 * fact(1))) 4 * (3 * (2 * (1 * fact(0)))) 4 * (3 * (2 * (1 * 1))) 4 * (3 * (2 * 1)) 4 * (3 * 2) 4 * 6 24 Ricorsione - Ugo de'liguoro

29 Memento Ricordare che, durante l esecuzione di un algoritmo ricorsivo, non si può procedere oltre una chiamata ricorsiva se questa non è stata completata del tutto.

30 Algoritmi ricorsivi Schema di un algoritmo ricorsivo (su un istanza I ): ALGO (I ) If «caso base» then «esegui certe operazioni» else «esegui delle operazioni fra le quali ALGO(I 1 ),, ALGO(I k )» Per assicurare che la ricorsione termini bisogna fare attenzione a che le chiamate ricorsive si applichino a valori di dimensione minore del valore in ingresso, e che le clausole di uscita contemplino tutti i casi base.

31 Ricorsione e iterazione La ricorsione è un metodo di calcolo basato sulla possibilità che una funzione chiami se stessa L iterazione può simulare una ricorsione qualsiasi grazie all uso di una pila La ricorsione è utile per scoprire un algoritmo, ma anche per descriverlo in forma chiara e compatta Ove possibile si cerca poi di migliorare l efficienza dell algoritmo, (eventualmente trasformandolo in iterazione) Ricorsione - Ugo de'liguoro

32 Cambio orario dal 6/10 Martedì 9-11 Mercoledì Martedì 14 test di valutazione sul programma finora svolto