Notazioni asintotiche. Martedì 30 settembre 2014

Dimensione: px

Iniziare la visualizzazioe della pagina:

Download "Notazioni asintotiche. Martedì 30 settembre 2014"

Vincenzo Scala
5 anni fa
Visualizzazioni

1 Notazioni asintotiche Martedì 30 settembre 2014

2 Punto della situazione Cos è un algoritmo Tempo di esecuzione T(n) Analisi di algoritmi: analisi asintotica di T(n) Argomento di oggi: Notazioni asintotiche: matematica! Motivazioni: Confrontare tempi di esecuzione di algoritmi fra loro o con funzioni standard (lineare, polinomiale, esponenziale )

3 Argomento lezione precedente: Tempo di esecuzione di un algoritmo E tutto chiaro?

4 Ricerca del massimo Esempio: ricerca del massimo fra n numeri a 1,, a n. Un algoritmo (in pseudocodice): max = a 1 For i = 2 to n If (a i > max) then max = a i Endif Endfor max a 1 for i = 2 to n { if (a i > max) max a i } Pseudocodice di [KT] Pseudocodice di [CLRS]

5 Struttura di un algoritmo (non ricorsivo) Può essere costituito da: Una singola istruzione elementare Un blocco sequenziale di istruzioni (allo stesso livello di indentazione) Un istruzione if: If(cond) then istr1 Else istr2 Endif Un ciclo o loop for, while, repeat: For i=a to b {istr} Endfor While (cond){istr} Repeat {istr} until (cond)

6 Struttura dell esempio max = a 1 For i = 2 to n If (a i > max) then max = a i Endif Endfor E un blocco di 2 istruzioni: 1. Assegnamento 2-6. For L istruzione For delle linee 2-6 è: For i=a to b {istr0} Endfor dove istr0 è l istruzione if delle linee 3-5 L istruzione If delle linee 3-5 è: If(cond) then istr1 Else istr2 Endif dove cond è il confronto: a i > max istr1 è l assegnamento: max = a i istr2 è vuota

7 Regole per il calcolo di T(n) (caso non ricorsivo) il costo di un blocco sequenziale di istruzioni è pari alla somma dei costi delle singole istruzioni

8 Altri esempi Insertion-Sort su CLRS In seguito semplificheremo l analisi con notazioni asintotiche

9 Tempo di esecuzione Tempo di esecuzione T(n) sarà misurato in termini del numero di operazioni elementari per eseguire l algoritmo su un input di taglia n Assegnamento, incremento, confronto sono considerate operazioni elementari all interno dell algoritmo della ricerca del massimo. Richiedono tempo costante (= non dipendente dalla taglia n dell input) ma a priori non quantificabile

10 Analisi asintotica Vogliamo analizzare l efficienza dell algoritmo Indipendentemente da implementazione, hardware etc. Al crescere della taglia dell input Studieremo il tempo in funzione della taglia dell input : T(n) Studieremo la crescita della funzione T(n) al crescere di n «asintotica»: per n arbitrariamente grande per n che tende a infinito da un certo punto in poi per ogni n n 0

11 Vantaggi dell analisi asintotica Indipendente da hardware Effettuabile con pseudocodice prima di implementare l algoritmo Considera infiniti input Alternativa? Analisi su dati campione. Svantaggi: bisogna avere già implementato l algoritmo; analizza numero finito di dati

12 Caso peggiore, migliore, medio Analisi del caso peggiore: qualunque sia la distribuzione dell input T(n) è limitata superiormente da f(n) Analisi del caso migliore: qualunque sia la distribuzione dell input T(n) è limitata inferiormente da g(n) (poco significativa) Analisi del caso medio: nel caso di una distribuzione media o random (difficile da determinare)

13 Notazioni asintotiche Nell analisi asintotica analizziamo T(n) 1. A meno di costanti moltiplicative (perché non quantificabili) 2. Asintoticamente (per considerare input di taglia arbitrariamente grande, quindi in numero infinito) Le notazioni asintotiche: O, Ω, Θ, o, ω ci permetteranno il confronto tra funzioni, mantenendo queste caratteristiche. Idea di fondo: O, Ω, Θ, o, ω rappresentano rispettivamente,, =, <, > in un analisi asintotica

14 Funzioni T(n) Se T(n) rappresenta un tempo di esecuzione su un input di taglia n, allora: n è un intero positivo T(n) è un reale positivo T: N R + Inoltre T(n) è una funzione non decrescente

15 Funzioni standard Fra le funzioni non decrescenti T: N R + ci interesseranno principalmente le seguenti (e le loro combinazioni): T 1 (n) = c, con c costante T 2 (n)=log n T 3 (n)=n T 4 (n)=n 2 T 5 (n)= 2 n

16 Ordini di infinito Le funzioni c, log n, n, n 2, 2 n sono tutte funzioni positive di variabile positiva e non decrescenti, ma hanno una diversa crescita asintotica, ovvero un diverso ordine di infinito (come si dice in analisi matematica). Le notazioni O, Ω, Θ, o, ω misurano questo.

17 Grafici delle funzioni T(n) 2 n n 2 n log 2 0 tende a - log 2 1 = 0 log 2 2 =1 log 2 n n per ogni n 1 log 2 n 3 3 log 2 n per ogni n 8 n n n 2 per ogni n 1 Approssimativamente.

20 Un altro esempio log 2 (2n+1) = O( n+5 ) c, n 0, t.c. log 2 (2n+1) c ( n+5 ) per ogni n n 0 Se 1 n log 2 (2n+1) log 2 (2n+n) = log 2 (3n) = log 2 (3)+ log 2 (n) 1,585+ log 2 n 5 + log 2 n 5+n Se log 2 n n n 1 c = 1 n 0 =1

21 1. (tecnica per i polinomi) Esempio n 2-2n +1 = O(n 2 ) n 2-2n +1 n 2 + 2n +1 n 2 + 2n 2 +1 n 2 +2n 2 +n 2 = 4 n 2 c = 4, n 0 =1 2. n 2-2n +1 n 2 +1 n 2 + n 2 =2n 2 c = 2, n 0 =1 3. (disequazioni) n 2-2n +1 2 n 2 sse n 2 + 2n n -1-2 ed n c = 2, n 0 =1 4. n 2-2n +1 =(n-1) 2 n 2 c = 1, n 0 =1 Nota: se esiste un coppia (c, n 0 ), ne esistono infinite, ma per dimostrare O ne basta esibire 1 sola.

24 Esempio (errore tipico) n = O(10n)? Dimostrazione (forse) L affermazione è Vera, perché per c=1, n n per ogni n 1. Infatti: per n=1, ; per n=2, ; per n=3, ; per n=9, Fine della prova! La dimostrazione non è corretta perché ho dimostrato l affermazione solo per alcuni valori di n 1, e non per ogni n 1. Si può dimostrare che n n, solo per i valori compresi fra 1 e 9, risolvendo la disequazione di secondo grado. Inoltre..

25 Esempio (continua) Inoltre si può dimostrare che: non esistono costanti c > 0, n 0 0, tali che n c n per ogni n n 0. Infatti: n c n per ogni n n 0 sse c (n )/n per ogni n n 0, cioè sse c n + 5 /n per ogni n n 0 : assurdo! Una costante non può superare una quantità che cresce all infinito, per ogni n n 0! n O(n)

26 Notazione asintotica Ω Notazione duale di O: f(n) = Ω (g(n)) se esistono costanti c > 0, n 0 0 tali che per ogni n n 0 si ha f(n) c g(n)

28 ovvero hanno lo stesso ordine di infinito

29 Θ limitazione esatta Θ è una limitazione esatta (tight bound)

30 Esempio log 2 n = (log 3 n) c, n 0, t.c. c 1 log 3 n log 2 n c 2 log 3 n per ogni n n 0 log 2 n log 3 n = c 1 log 3 n, per n 1 log 2 n = log 2 3 log 3 n = c 2 log 3 n, per n 1 c 1 =1, c 2 = log 2 3, n 0 = 1

31 Notazione «o piccolo» Per indicare che f(n)=o(g(n)) ma f(n) Θ (g(n)) si scrive: f(n)=o(g(n)) (o «piccolo») Equivale a dire che: per ogni costante c > 0, esiste n c 0, tale che f(n) c g(n) per ogni n n c. Esempio: n=o(n 2 ) Per ogni valore di c, n c n 2 non appena c n 2 n, c n 1, n 1/c. Quindi fissato c basterà scegliere come n c un intero n c 1/c. Per c=2, sceglierò un intero n 2 1/2, n 2 = 1. Per c=1/10, sceglierò un intero n c 10, n c = 10. etc.

32 Notazione «o piccolo» (continua) Per indicare che f(n)=o(g(n)) ma f(n) Θ (g(n)) si scrive: f(n)=o(g(n)) (o «piccolo») Equivale a dire che: per ogni costante c > 0, esiste n c 0, tale che f(n) c g(n) per ogni n n c. Esempio: 2n+1=o(n)? Dimostro che: 2n+1=O(n). 2n+1 2n+n=3n quindi 2n+1 c (n) é vera con c=3, n 0 =1. Ma 2n+1 c (n) non é vera per ogni valore di c: per c=1, 2, non esistono valori di n 0 opportuni. Infatti 2n+1= Θ (n)

33 Notazione «omega piccolo» Notazione duale di «o piccolo»: f(n) = ω (g(n)) f(n)= (g(n)) ma f(n) Θ (g(n)) ovvero per ogni costante c > 0, esiste n c 0, tale che f(n) c g(n) per ogni n n c. f(n) = ω (g(n)) se e solo se g(n) = o(f(n))

34 In termini di analisi. matematica (ovvero f(n)=o(g(n)) ) (ovvero g(n)=o(f(n)))

35 più precisamente: log n=o(radice(n))

36 Notation Slight abuse of notation. T(n) = O(f(n)). Asymmetric: f(n) = 5n 3 ; g(n) = 3n 2 f(n) = O(n 3 ) = g(n) but f(n) g(n). Better notation: T(n) O(f(n)). Meaningless statement: Any comparison-based sorting algorithm requires at least O(n log n) comparisons. Use for lower bounds. Mettendo in evidenza che c è una classe di funzioni O(f(n)). 36

37 Analisi asintotica di T(n) T(n) = O(g(n)) significa che il tempo di esecuzione, anche nel caso peggiore, è limitato superiormente da g(n) T(n) = Ω(g(n)) significa che il tempo di esecuzione, anche nel caso migliore, è limitato inferiormente da g(n) T(n) = Θ(g(n)) significa che nel caso peggiore è O(g(n)) e nel caso migliore è Ω(g(n)) (in pratica non vi è distinzione fra tempo di esecuzione nel caso peggiore e migliore) Esempio. T I (n), tempo di esecuzione di InsertionSort è T I (n)= Ω(n) e T I (n) =O(n 2 ) T M (n ), tempo di esecuzione di MergeSort è T M (n)= Θ(n log n)

38 Asymptotic Order of Growth Upper bounds. T(n) is O(f(n)) if there exist constants c > 0 and n 0 0 such that for all n n 0 we have T(n) c f(n). Lower bounds. T(n) is (f(n)) if there exist constants c > 0 and n 0 0 such that for all n n 0 we have T(n) c f(n). Tight bounds. T(n) is (f(n)) if T(n) is both O(f(n)) and (f(n)). Ex: T(n) = 32n n T(n) is O(n 2 ), O(n 3 ), (n 2 ), (n), and (n 2 ). T(n) is not O(n), (n 3 ), (n), or (n 3 ). 38

39 Esercizio 1

40 Esercizio 2 I calcoli riusciranno più semplici dopo che avremo studiato le proprietà delle notazioni asintotiche NOTA: Esistono anche funzioni (particolari) non confrontabili tramite O

Documenti analoghi

Esercizi Capitolo 2 - Analisi di Algoritmi

Esercizi Capitolo 2 - Analisi di Algoritmi Esercizi Capitolo - Analisi di Algoritmi Alberto Montresor 19 Agosto, 014 Alcuni degli esercizi che seguono sono associati alle rispettive soluzioni. Se il vostro lettore PDF lo consente, è possibile saltare