Algoritmi e Strutture Dati. Analisi di algoritmi Funzioni di costo, notazione asintotica

Transcript

1 Algoritmi e Strutture Dati Analisi di algoritmi Funzioni di costo, notazione asintotica Alberto Montresor Università di Trento 2018/12/27 This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.

2 Introduzione all analisi Notazione asintotica Notazioni O, Ω, Θ Definizione Notazione O Sia g(n) una funzione di costo; indichiamo con O(g(n)) l insieme delle funzioni f(n) tali per cui: c > 0, m 0 : f(n) cg(n), n m Come si legge: f(n) è O grande (big-o) di g(n) Come si scrive: f(n) = O(g(n)) g(n) è un limite asintotico superiore per f(n) f(n) cresce al più come g(n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 1 / 54

3 Introduzione all analisi Notazione asintotica Notazioni O, Ω, Θ Definizione Notazione Ω Sia g(n) una funzione di costo; indichiamo con Ω(g(n)) l insieme delle funzioni f(n) tali per cui: c > 0, m 0 : f(n) cg(n), n m Come si legge: f(n) è Omega grande di g(n) Come si scrive: f(n) = Ω(g(n)) g(n) è un limite asintotico inferiore per f(n) f(n) cresce almeno quanto g(n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 2 / 54

4 Introduzione all analisi Notazione asintotica Notazioni O, Ω, Θ Definizione Notazione Θ Sia g(n) una funzione di costo; indichiamo con Θ(g(n)) l insieme delle funzioni f(n) tali per cui: c 1 > 0, c 2 > 0, m 0 : c 1 g(n) f(n) c 2 g(n), n m Come si legge: f(n) è Theta di g(n) Come si scrive: f(n) = Θ(g(n)) f(n) cresce esattamente come g(n) f(n) = Θ(g(n)) se e solo se f(n) = O(g(n)) e f(n) = Ω(g(n)) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 3 / 54

5 Introduzione all analisi Notazione asintotica Algoritmi vs problemi Complessità in tempo di un algoritmo La più grande quantità di tempo richiesta per un input di dimensione n O(f(n)): Per tutti gli input, l algoritmo costa al più f(n) Ω(f(n)): Per tutti gli input, l algoritmo costa almeno f(n) Θ(f(n)): L algoritmo richiede Θ(f(n)) per tutti gli input Complessità in tempo di un problema computazionale La complessità in tempo relative a tutte le possibili soluzioni O(f(n)): Complessità del miglior algoritmo che risolve il problema Ω(f(n)): Dimostrare che nessun algoritmo può risolvere il problema in tempo inferiore a Ω(f(n)) Θ(f(n)): Algoritmo ottimo Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 4 / 54

6 Algoritmi e Strutture Dati Analisi di algoritmi Proprietà della notazione asintotica Alberto Montresor Università di Trento 2018/12/27 This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.

7 Sommario 1 Introduzione all analisi Notazione asintotica 2 Proprietà della notazione asintotica Funzioni di costo particolari Proprietà delle notazioni Altre funzioni di costo Classificazione delle funzioni 3 Introduzione Albero di ricorsione, o per livelli Metodo della sostituzione Metodo dell esperto

8 Proprietà della notazione asintotica Funzioni di costo particolari Regola generale Espressioni polinomiali f(n) = a k n k + a k 1 n k a 1 n + a 0, a k > 0 f(n) = Θ(n k ) Limite superiore: c > 0, m 0 : f(n) cn k, n m f(n) = a k n k + a k 1 n k a 1 n + a 0 a k n k + a k 1 n k a 1 n + a 0 a k n k + a k 1 n k a 1 n k + a 0 n k n 1 = (a k + a k a 1 + a 0 )n k? cn k che è vera per c ( a k + a k a 1 + a 0 ) e per m = 1. Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 5 / 54

9 Proprietà della notazione asintotica Funzioni di costo particolari Regola generale Espressioni polinomiali f(n) = a k n k + a k 1 n k a 1 n + a 0, a k > 0 f(n) = Θ(n k ) Limite inferiore: d > 0, m 0 : f(n) dn k, n m f(n) = a k n k + a k 1 n k a 1 n + a 0 a k n k a k 1 n k 1... a 1 n a 0 a k n k a k 1 n k 1... a 1 n k 1 a 0 n k 1 n 1? dn k L ultima equazione è vera se: d a k a k 1 n a k 2 n... a 1 n a 0 n > 0 n > a k a 0 a k Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 5 / 54

10 Proprietà della notazione asintotica Funzioni di costo particolari Alcuni casi particolari Qual è la complessità di f(n) = 5? Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 6 / 54

11 Proprietà della notazione asintotica Funzioni di costo particolari Alcuni casi particolari Qual è la complessità di f(n) = 5? f(n) = 5 c 1 n 0 c 1 5 f(n) = 5 c 2 n 0 c 2 5 f(n) = Θ(n 0 ) = Θ(1) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 6 / 54

12 Proprietà della notazione asintotica Funzioni di costo particolari Alcuni casi particolari Qual è la complessità di f(n) = 5? f(n) = 5 c 1 n 0 c 1 5 f(n) = 5 c 2 n 0 c 2 5 f(n) = Θ(n 0 ) = Θ(1) Qual è la complessità di f(n) = 5 + sin(n)? Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 6 / 54

13 Proprietà della notazione asintotica Funzioni di costo particolari Alcuni casi particolari Qual è la complessità di f(n) = 5? f(n) = 5 c 1 n 0 c 1 5 f(n) = 5 c 2 n 0 c 2 5 f(n) = Θ(n 0 ) = Θ(1) Qual è la complessità di f(n) = 5 + sin(n)? sin(n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 6 / 54

14 Proprietà della notazione asintotica Proprietà delle notazioni Proprietà Dualità f(n) = O(g(n)) g(n) = Ω(f(n)) Dimostrazione: f(n) = O(g(n)) f(n) cg(n), n m g(n) 1 f(n), n m c g(n) c f(n), n m, c = 1 c g(n) = Ω(f(n)) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 7 / 54

15 Proprietà della notazione asintotica Proprietà delle notazioni Proprietà Eliminazione delle costanti f(n) = O(g(n)) af(n) = O(g(n)), a > 0 f(n) = Ω(g(n)) af(n) = Ω(g(n)), a > 0 Dimostrazione: f(n) = O(g(n)) f(n) cg(n), n m af(n) acg(n), n m, a 0 af(n) c g(n), n m, c = ac > 0 af(n) = O(g(n)) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 8 / 54

16 Proprietà della notazione asintotica Proprietà delle notazioni Proprietà Sommatoria (sequenza di algoritmi) f 1 (n) = O(g 1 (n)), f 2 (n) = O(g 2 (n)) f 1 (n) + f 2 (n) = O(max(g 1 (n), g 2 (n))) f 1 (n) = Ω(g 1 (n)), f 2 (n) = Ω(g 2 (n)) f 1 (n) + f 2 (n) = Ω(min(g 1 (n), g 2 (n))) Dimostrazione f 1 (n) = O(g 1 (n)) f 2 (n) = O(g 2 (n)) f 1 (n) c 1 g 1 (n) f 2 (n) c 2 g 2 (n) f 1 (n) + f 2 (n) c 1 g 1 (n) + c 2 g 2 (n) f 1 (n) + f 2 (n) maxc 1, c 2 }(2 max(g 1 (n), g 2 (n))) f 1 (n) + f 2 (n) = O(g 1 (n) + g 2 (n)) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 9 / 54

17 Proprietà della notazione asintotica Proprietà delle notazioni Proprietà Prodotto (Cicli annidati) f 1 (n) = O(g 1 (n)), f 2 (n) = O(g 2 (n)) f 1 (n) f 2 (n) = O(g 1 (n) g 2 (n)) f 1 (n) = Ω(g 1 (n)), f 2 (n) = Ω(g 2 (n)) f 1 (n) f 2 (n) = Ω(g 1 (n) g 2 (n)) Dimostrazione f 1 (n) = O(g 1 (n)) f 2 (n) = O(g 2 (n)) f 1 (n) c 1 g 1 (n) f 2 (n) c 2 g 2 (n) f 1 (n) f 2 (n) c 1 c 2 g 1 (n)g 2 (n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 10 / 54

18 Proprietà della notazione asintotica Proprietà delle notazioni Proprietà Simmetria f(n) = Θ(g(n)) g(n) = Θ(f(n)) Dimostrazione Grazie alla proprietà di dualità: f(n) = Θ(g(n)) f(n) = O(g(n)) g(n) = Ω(f(n)) f(n) = Θ(g(n)) f(n) = Ω(g(n)) g(n) = O(f(n)) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 11 / 54

19 Proprietà della notazione asintotica Proprietà delle notazioni Proprietà Transitività f(n) = O(g(n)), g(n) = O(h(n)) f(n) = O(h(n)) Dimostrazione f(n) = O(g(n)) g(n) = O(h(n)) f(n) c 1 g(n) g(n) c 2 h(n) f(n) c 1 c 2 h(n) f(n) = O(h(n)) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 12 / 54

20 Proprietà della notazione asintotica Altre funzioni di costo Logaritmi vs funzioni lineari Proprietà dei logaritmi Vogliamo provare che log n = O(n). Dimostriamo per induzione che c > 0, m 0 : log n cn, n m Caso base (n = 1): log 1 = 0 cn = c 1 c 0 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 13 / 54

21 Proprietà della notazione asintotica Altre funzioni di costo Logaritmi vs funzioni lineari Proprietà dei logaritmi Vogliamo provare che log n = O(n). Dimostriamo per induzione che c > 0, m 0 : log n cn, n m Ipotesi induttiva: sia log k ck, k n Passo induttivo: Dimostriamo la proprietà per n + 1 log(n + 1) log (n + n) = log 2n n 1 = log 2 + log n log ab = log a + log b = 1 + log n log 2 2 = cn? c(n + 1) 1 + cn c(n + 1) c 1 Per induzione Obiettivo Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 13 / 54

22 Proprietà della notazione asintotica Altre funzioni di costo Giocando con le espressioni È vero che log a n = Θ(log n)? Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 14 / 54

23 Proprietà della notazione asintotica Altre funzioni di costo Giocando con le espressioni È vero che log a n = Θ(log n)? Sì: log a n = (log a 2) (log 2 n) = Θ(log n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 14 / 54

24 Proprietà della notazione asintotica Altre funzioni di costo Giocando con le espressioni È vero che log a n = Θ(log n)? Sì: log a n = (log a 2) (log 2 n) = Θ(log n) È vero che log n a = Θ(log n), per a > 0? Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 14 / 54

25 Proprietà della notazione asintotica Altre funzioni di costo Giocando con le espressioni È vero che log a n = Θ(log n)? Sì: log a n = (log a 2) (log 2 n) = Θ(log n) È vero che log n a = Θ(log n), per a > 0? Sì: log n a = a log n = Θ(log n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 14 / 54

26 Proprietà della notazione asintotica Altre funzioni di costo Giocando con le espressioni È vero che log a n = Θ(log n)? Sì: log a n = (log a 2) (log 2 n) = Θ(log n) È vero che log n a = Θ(log n), per a > 0? Sì: log n a = a log n = Θ(log n) È vero che 2 n+1 = Θ(2 n )? Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 14 / 54

27 Proprietà della notazione asintotica Altre funzioni di costo Giocando con le espressioni È vero che log a n = Θ(log n)? Sì: log a n = (log a 2) (log 2 n) = Θ(log n) È vero che log n a = Θ(log n), per a > 0? Sì: log n a = a log n = Θ(log n) È vero che 2 n+1 = Θ(2 n )? Sì: 2 n+1 = 2 2 n = Θ(2 n ) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 14 / 54

28 Proprietà della notazione asintotica Altre funzioni di costo Giocando con le espressioni È vero che log a n = Θ(log n)? Sì: log a n = (log a 2) (log 2 n) = Θ(log n) È vero che log n a = Θ(log n), per a > 0? Sì: log n a = a log n = Θ(log n) È vero che 2 n+1 = Θ(2 n )? Sì: 2 n+1 = 2 2 n = Θ(2 n ) È vero che 2 n = Θ(3 n )? Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 14 / 54

29 Proprietà della notazione asintotica Altre funzioni di costo Giocando con le espressioni È vero che log a n = Θ(log n)? Sì: log a n = (log a 2) (log 2 n) = Θ(log n) È vero che log n a = Θ(log n), per a > 0? Sì: log n a = a log n = Θ(log n) È vero che 2 n+1 = Θ(2 n )? Sì: 2 n+1 = 2 2 n = Θ(2 n ) È vero che 2 n = Θ(3 n )? Ovviamente 2 n = O(3 n ) Ma: 3 n = ( 3 2 2) n = ( 3 2) n 2 n : Quindi non esiste c > 0 tale per cui ( 3 2) n 2 n c2 n, e quindi 2 n Ω(3 n ) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 14 / 54

30 Proprietà della notazione asintotica Classificazione delle funzioni Notazioni o, ω Definizione Notazioni o, ω Sia g(n) una funzione di costo; indichiamo con o(g(n)) l insieme delle funzioni f(n) tali per cui: c, m : f(n) < cg(n), n m. Sia g(n) una funzione di costo; indichiamo con ω(g(n)) l insieme delle funzioni f(n) tali per cui: c, m : f(n) > cg(n), n m. Come si leggono: f(n) è o piccolo, omega piccolo di g(n) Come si scrivono: f(n) = o(g(n)) oppure f(n) = ω(g(n)) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 15 / 54

31 Proprietà della notazione asintotica Classificazione delle funzioni Notazioni o, ω Utilizzando il concetto di limite, date due funzioni f(n) e g(n) si possono fare le seguenti affermazioni: lim n f(n) lim n g(n) lim n = 0 f(n) = o(g(n)) f(n) = c 0 f(n) = Θ(g(n)) g(n) f(n) = + f(n) = ω(g(n)) g(n) Si noti che: f(n) = o(g(n)) f(n) = O(g(n)) f(n) = ω(g(n)) f(n) = Ω(g(n)) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 16 / 54

32 Proprietà della notazione asintotica Classificazione delle funzioni Classificazione delle funzioni E possibile trarre un ordinamento delle principali espressioni, estendendo le relazioni che abbiamo dimostrato fino ad ora Per ogni r < s, h < k, a < b: O(1) O(log r n) O(log s n) O(n h ) O(n h log r n) O(n h log s n) O(n k ) O(a n ) O(b n ) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 17 / 54

33 Algoritmi e Strutture Dati Analisi di algoritmi, metodo dell albero di ricorsione Alberto Montresor Università di Trento 2018/12/27 This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.

34 Sommario 1 Introduzione all analisi Notazione asintotica 2 Proprietà della notazione asintotica Funzioni di costo particolari Proprietà delle notazioni Altre funzioni di costo Classificazione delle funzioni 3 Introduzione Albero di ricorsione, o per livelli Metodo della sostituzione Metodo dell esperto

35 Introduzione Introduzione Equazioni di ricorrenza Quando si calcola la complessità di un algoritmo ricorsivo, questa viene espressa tramite un equazione di ricorrenza, ovvero una formula matematica definita in maniera... ricorsiva! MergeSort T ( n/2 ) + T ( n/2 ) + Θ(n) n > 1 Θ(1) n 1 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 18 / 54

36 Introduzione Introduzione Forma chiusa Il nostro obiettivo è ottenere, quando possibile, una formula chiusa che rappresenti la classe di complessità della funzione. MergeSort T ( n/2 ) + T ( n/2 ) + Θ(n) n > 1 Θ(1) n 1 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 18 / 54

37 Introduzione Introduzione Forma chiusa Il nostro obiettivo è ottenere, quando possibile, una formula chiusa che rappresenti la classe di complessità della funzione. MergeSort Θ(n log n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 18 / 54

38 Introduzione Oltre l analisi di algoritmi Utilizzeremo le equazioni di ricorrenza anche per risolvere problemi Problema Un bambino scende una scala composta da n scalini. Ad ogni passo, può decidere di fare 1,2,3,4 scalini alla volta. Determinare in quanti modi diversi può scendere le scale. Ad esempio, se n = 7, alcuni dei modi possibili sono i seguenti: 1,1,1,1,1,1,1 1,2,4 4,2,1 2,2,2,1 1,2,2,1,1 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 19 / 54

39 Introduzione Oltre l analisi di algoritmi Soluzione Sia M(n) il numero di modi in cui è possibile scegliere n scalini; allora M(n) può essere espresso nel modo seguente: 0 n < 0 M(n) = 1 n = 0 M(n k) n > 0 4 k=1 Questa ricorrenza può essere trasformata in un algoritmo tramite semplice ricorsione o tramite programmazione dinamica. Numeri di Tetranacci 1, 1, 2, 4, 8, 15, 29, 56, 108, 208, 401, 773, 1490, 2872, 5536,... Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 20 / 54

40 Albero di ricorsione, o per livelli Metodo dell albero di ricorsione, o per livelli Metodi per risolvere ricorrenze Analisi per livelli Analisi per tentativi, o per sostituzione Metodo dell esperto, o delle ricorrenze comuni Metodo dell albero di ricorsione, o per livelli Srotoliamo la ricorrenza in un albero i cui nodi rappresentano i costi ai vari livelli della ricorsione Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 21 / 54

41 Albero di ricorsione, o per livelli Primo esempio T (n/2) + b n > 1 1 n 1 E possibile risolvere questa ricorrenza nel modo seguente: b + T (n/2) = b + b + T (n/4) = b + b + b + T (n/8) =... = } b + b } b +T (1) log n Assumiamo per semplicità: n = 2 k, ovvero k = log n Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 22 / 54

42 Albero di ricorsione, o per livelli Primo esempio T (n/2) + b n > 1 1 n 1 E possibile risolvere questa ricorrenza nel modo seguente: b + T (n/2) = b + b + T (n/4) = b + b + b + T (n/8) =... = } b + b } b +T (1) log n Assumiamo per semplicità: n = 2 k, ovvero k = log n b log n + T (1) = Θ(log n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 22 / 54

43 Albero di ricorsione, o per livelli Secondo esempio 4T (n/2) + n n > 1 1 n 1 E possibile risolvere questa ricorrenza nel modo seguente: n + 4T (n/2) = n + 4n/2 + 16T (n/2 2 ) = n + 2n + 16n/4 + 64T (n/8) =... = n + 2n + 4n + 8n log n 1 n + 4 log n T (1) log n 1 = n 2 j + 4 log n j=0 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 23 / 54

44 Albero di ricorsione, o per livelli Secondo esempio 4T (n/2) + n n > 1 1 n 1 E possibile risolvere questa ricorrenza nel modo seguente: log n 1 n 2 j + 4 log n j=0 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 23 / 54

45 Albero di ricorsione, o per livelli Secondo esempio 4T (n/2) + n n > 1 1 n 1 E possibile risolvere questa ricorrenza nel modo seguente: log n 1 n 2 j n 2log n j=0 + 4 log n Serie geometrica finita: x 1 : k j=0 x j = xk+1 1 x 1 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 23 / 54

46 Albero di ricorsione, o per livelli Secondo esempio 4T (n/2) + n n > 1 1 n 1 E possibile risolvere questa ricorrenza nel modo seguente: log n 1 n 2 j n j=0 2log n n(n 1) + 4 log n Passaggi algebrici Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 23 / 54

47 Albero di ricorsione, o per livelli Secondo esempio 4T (n/2) + n n > 1 1 n 1 E possibile risolvere questa ricorrenza nel modo seguente: log n 1 n 2 j n j=0 2log n n(n 1) + 4 log n n log 4 Cambiamento di base: log b n = (log b a) (log a n) a log b n = n log b a Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 23 / 54

48 Albero di ricorsione, o per livelli Secondo esempio 4T (n/2) + n n > 1 1 n 1 E possibile risolvere questa ricorrenza nel modo seguente: log n 1 n 2 j n j=0 2log n n(n 1) + 4 log n n log 4 n 2 = 2n 2 n = Θ(n 2 ) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 23 / 54

49 Albero di ricorsione, o per livelli Terzo esempio 4T (n/2) + n 3 n > 1 1 n 1 Proviamo a visualizzare l albero delle chiamate, per i primi tre livelli: n 3 }} ( ) n 3 ( ) n 3 ( ) n 3 ( ) n }}}}}}}} ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n 3 ( ) n Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 24 / 54

50 Albero di ricorsione, o per livelli Terzo esempio 4T (n/2) + n 3 n > 1 1 n 1 Livello Dim. Costo chiam. N. chiamate Costo livello 0 n n 3 1 n 3 1 n/2 (n/2) 3 4 4(n/2) 3 2 n/4 (n/4) (n/4) 3 i n/2 i (n/2 i ) 3 4 i 4 i (n/2 i ) 3 l 1 n/2 l 1 (n/2 l 1 ) 3 4 l 1 4 l 1 (n/2 l 1 ) 3 l = log n 1 T (1) 4 log n 4 log n Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 24 / 54

51 Albero di ricorsione, o per livelli Terzo esempio La sommatoria dà origine a: log n 1 i=0 log n 1 = n 3 4 i n 3 /2 3i + 4 log n 2 2i 2 3i + 4 log n 4T (n/2) + n 3 n > 1 1 n 1 Passaggi algebrici i=0 log n 1 ( ) 1 i = n log n 2 Passaggi algebrici i=0 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 24 / 54

52 Albero di ricorsione, o per livelli Terzo esempio La sommatoria dà origine a: log n 1 ( ) 1 i n log n 2 i=0 4T (n/2) + n 3 n > 1 1 n 1 log n 1 ( ) 1 i = n 3 + n 2 2 Cambiamento di base i=0 ( ) 1 i n 3 + n 2 2 Estensione della sommatoria i=0 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 24 / 54

53 Albero di ricorsione, o per livelli Terzo esempio 4T (n/2) + n 3 n > 1 1 n 1 La sommatoria dà origine a: ( ) 1 i T (n) n 3 + n 2 2 i=0 = n n 2 2 = 2n 3 + n 2 Serie geometrica infinita decrescente: x, x < 1 : x i = 1 1 x i=0 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 24 / 54

54 Albero di ricorsione, o per livelli Terzo esempio 4T (n/2) + n 3 n > 1 1 n 1 Abbiamo dimostrato che: T (n) 2n 3 + n 2 Possiamo affermare che O(n 3 ) Non possiamo affermare che Θ(n 3 ), perchè abbiamo dimostrato solo un limite superiore Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 24 / 54

55 Albero di ricorsione, o per livelli Quarto esempio 4T (n/2) + n 2 n > 1 1 n 1 Livello Dimensione Costo chiamata N. chiamate Costo livello 0 n n 2 1 n 2 1 n/2 (n/2) 2 4 4(n/2) 2 2 n/4 (n/4) (n/4) 2 i n/2 i (n/2 i ) 2 4 i 4 i (n/2 i ) 2 l 1 n/2 l 1 (n/2 l 1 ) 2 4 l 1 4 l 1 (n/2 l 1 ) 2 l = log n 1 T (1) 4 log n 4 log n Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 25 / 54

56 Albero di ricorsione, o per livelli Quarto esempio 4T (n/2) + n 2 n > 1 1 n 1 log n 1 i=0 log n 1 = n 2 i=0 log n 1 = n 2 i=0 n 2 /2 2i 4 i + 4 log n 2 2i + n2 22i 1 + n 2 = n 2 log n + n 2 = Θ(n 2 log n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 25 / 54

57 Algoritmi e Strutture Dati Analisi di algoritmi, metodo di sostituzione Alberto Montresor Università di Trento 2018/12/27 This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.

58 Metodo della sostituzione Metodo della sostituzione Metodi per risolvere ricorrenze Metodo dell albero di ricorsione, o per livelli Metodo di sostituzione, o per tentativi Metodo dell esperto, o delle ricorrenze comuni Metodo di sostituzione È un metodo in cui si cerca di indovinare (guess) una soluzione, in base alla propria esperienza, e si dimostra che questa soluzione è corretta tramite induzione. Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 26 / 54

59 Metodo della sostituzione Cerchiamo di indovinare T ( n/2 ) + n n > 1 1 n 1 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 27 / 54

60 Metodo della sostituzione Cerchiamo di indovinare T ( n/2 ) + n n > 1 1 n 1 1 n Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 27 / 54

61 Metodo della sostituzione Cerchiamo di indovinare T ( n/2 ) + n n > 1 1 n n n n/2 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 27 / 54

62 Metodo della sostituzione Cerchiamo di indovinare T ( n/2 ) + n n > 1 1 n n n n/2 n n/2 n/4 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 27 / 54

63 Metodo della sostituzione Cerchiamo di indovinare T ( n/2 ) + n n > 1 1 n n n n/2 n n/2 n/4 n n/2 n/4 n/8 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 27 / 54

64 Metodo della sostituzione Cerchiamo di indovinare T ( n/2 ) + n n > 1 1 n n n n/2 n n/2 n/4 n n/2 n/4 n/8 n n/2 n/4 n/8 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 27 / 54

65 Metodo della sostituzione Cerchiamo di indovinare T ( n/2 ) + n n > 1 1 n n n n/2 n n/2 n/4 n n/2 n/4 n/8 n n/2 n/4 n/8 n n/2 n/4 n/8 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 27 / 54

66 Metodo della sostituzione Cerchiamo di indovinare T ( n/2 ) + n n > 1 1 n n n n/2 n n/2 n/4 n n/2 n/4 n/8 n n/2 n/4 n/8 n n/2 n/4 n/8 2n Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 27 / 54

67 Metodo della sostituzione Cerchiamo di indovinare T ( n/2 ) + n n > 1 1 n 1 log n n (1/2) i n i=0 (1/2) i n = 2n 2 i=0 Serie geometrica decrescente infinita x, x < 1 : i=0 x i = 1 1 x Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 27 / 54

68 Metodo della sostituzione Limite superiore T ( n/2 ) + n n > 1 1 n 1 Tentativo: O(n) c > 0, m 0 : T (n) cn, n m Caso base: Dimostriamo la disequazione per T (1) T (1) = 1? 1 c c 1 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 28 / 54

69 Metodo della sostituzione Limite superiore T ( n/2 ) + n n > 1 1 n 1 Tentativo: O(n) c > 0, m 0 : T (n) cn, n m Ipotesi induttiva: k < n : T (k) ck. Passo di induzione: Dimostriamo la disequazione per T (n) T ( n/2 ) + n c n/2 + n cn/2 + n Sostituzione Intero inferiore = (c/2 + 1)n Passo algebrico? cn c/2 + 1 c c 2 Obiettivo Risultato finale Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 28 / 54

70 Metodo della sostituzione Limite superiore T ( n/2 ) + n n > 1 1 n 1 Tentativo: O(n) c > 0, m 0 : T (n) cn, n m Abbiamo provato che T (n) cn Nel caso base: c 1 Nel passo induttivo: c 2 Un valore c che rispetta entrambe le disequazioni è c = 2 Questo vale per n = 1, e per tutti i valori di n seguenti Quindi m = 1 Abbiamo quindi provato che O(n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 28 / 54

71 Metodo della sostituzione Limite inferiore T ( n/2 ) + n n > 1 1 n 1 Tentativo: Ω(n) d > 0, m 0 : T (n) dn, n m Caso base: Dimostriamo la disequazione per T (1) T (1) = 1? 1 d d 1 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 29 / 54

72 Metodo della sostituzione Limite inferiore T ( n/2 ) + n n > 1 1 n 1 Tentativo: Ω(n) d > 0, m 0 : T (n) dn, n m Ipotesi induttiva: k < n : T (k) dk. Passo di induzione: Dimostriamo la disequazione per T (n) T ( n/2 ) + n d n/2 + n dn/2 1 + n ( d = 2 1 ) n + 1 n? dn d 2 1 n + 1 d d 2 2/n Sostituzione Intero inferiore Passo algebrico Risultato finale Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 29 / 54

73 Metodo della sostituzione Limite inferiore T ( n/2 ) + n n > 1 1 n 1 Tentativo: Ω(n) d > 0, m 0 : T (n) dn, n m Abbiamo provato che T (n) dn Nel caso base: d 1 Nel passo induttivo: d 2 2 n Un valore d che rispetta entrambe le disequazioni, per ogni valore di n 1, è d = 1 Questo vale per n = 1, e per tutti i valori di n seguenti Quindi m = 1 Abbiamo quindi provato che O(n) O(n) Ω(n) Θ(n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 29 / 54

74 Metodo della sostituzione Limite inferiore T ( n/2 ) + n n > 1 1 n 1 Tentativo: Ω(n) d > 0, m 0 : T (n) dn, n m É possibile dimostrare che Ω(n) in maniera molto più semplice, senza fare nemmeno ricorso all ipotesi induttiva. T ( n/2 ) + n n? dn L ultima equazione è vera per d 1, condizione identica a quella del caso base Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 29 / 54

75 Metodo della sostituzione Cosa succede se si sbaglia l intuizione T (n 1) + n n > 1 1 n n-1 n 2 3 n-1 n n-3 n-2 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 30 / 54

76 Metodo della sostituzione Cosa succede se si sbaglia l intuizione T (n 1) + n n > 1 1 n 1 n i = i=1 n(n + 1) 2 = O(n 2 ) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 30 / 54

77 Metodo della sostituzione Cosa succede se si sbaglia l intuizione T (n 1) + n n > 1 1 n 1 Tentativo sbagliato: O(n) c > 0, m 0 : T (n) cn, n m Ipotesi induttiva: k < n : T (k) ck. Passo di induzione: Dimostriamo la disequazione per T (n) T (n 1) + n c(n 1) + n (c + 1)n c (c + 1)n? cn c + 1 c Sostituzione Passo algebrico Rimozione elemento negativo Obiettivo Impossibile Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 31 / 54

78 Metodo della sostituzione Difficoltà matematica Limite superiore T ( n/2 ) + T ( n/2 ) + 1 n > 1 1 n 1 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 32 / 54

79 Metodo della sostituzione Difficoltà matematica Limite superiore T ( n/2 ) + T ( n/2 ) + 1 n > 1 1 n log n log n - 1 log n log n Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 32 / 54

80 Metodo della sostituzione Difficoltà matematica Limite superiore T ( n/2 ) + T ( n/2 ) + 1 n > 1 1 n 1 log n i=0 2 i = n + n/2 + n/ = O(n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 32 / 54

81 Metodo della sostituzione Difficoltà matematica Limite superiore T ( n/2 ) + T ( n/2 ) + 1 n > 1 1 n 1 Tentativo: O(n) c > 0, m 0 : T (n) cn, n m Ipotesi induttiva: k < n : T (k) ck. Passo di induzione: Dimostriamo la disequazione per T (n) T ( n/2 ) + T ( n/2 ) + 1 c n/2 + c n/2 + 1 Sostituzione = cn + 1 Passo algebrico? cn 1 0 Obiettivo Impossibile Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 33 / 54

82 Metodo della sostituzione Difficoltà matematica Limite superiore T ( n/2 ) + T ( n/2 ) + 1 n > 1 1 n 1 Tentativo: O(n) c > 0, m 0 : T (n) cn, n m Cosa succede? Il tentativo è corretto... ma non riusciamo a dimostrarlo per un termine di ordine inferiore cn + 1 cn Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 33 / 54

83 Metodo della sostituzione Difficoltà matematica Limite superiore T ( n/2 ) + T ( n/2 ) + 1 n > 1 1 n 1 Tentativo: O(n) c > 0, m 0 : T (n) cn, n m Ipotesi induttiva più stretta: b > 0, k < n : T (k) ck b. Passo di induzione: Dimostriamo la disequazione per T (n): T ( n/2 ) + T ( n/2 ) + 1 c n/2 b + c n/2 b + 1 Sostituzione = cn 2b + 1 Passo algebrico? cn b 2b + 1 b b 1 Obiettivo Eliminazione cn Passo algebrico Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 33 / 54

84 Metodo della sostituzione Difficoltà matematica Limite superiore T ( n/2 ) + T ( n/2 ) + 1 n > 1 1 n 1 Tentativo: O(n) c > 0, m 0 : T (n) cn, n m Caso base: Dimostriamo la disequazione per T (1) T (1) = 1? 1 c b c b + 1 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 33 / 54

85 Metodo della sostituzione Difficoltà matematica Limite superiore T ( n/2 ) + T ( n/2 ) + 1 n > 1 1 n 1 Tentativo: O(n) c > 0, m 0 : T (n) cn, n m Abbiamo provato che T (n) cn b cn Nel passo induttivo: b 1, c Nel caso base: c b + 1 Una coppia di valori b, c che rispettano queste disequazioni sono b = 1, c = 2 Questo vale per n = 1, e per tutti i valori di n seguenti Quindi m = 1 Abbiamo quindi provato che O(n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 33 / 54

86 Metodo della sostituzione Difficoltà matematica Limite inferiore T ( n/2 ) + T ( n/2 ) + 1 n > 1 1 n 1 Tentativo: Ω(n) d > 0, m 0 : T (n) dn, n m Passo di induzione: Dimostriamo la disequazione per T (n) T ( n/2 ) + T ( n/2 ) + 1 d n/2 + d n/2 + 1 Sostituzione = dn + 1? dn Vero per ogni d Caso base: Dimostriamo la disequazione per T (1) 1 d 1 d 1 Abbiamo quindi provato che Ω(n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 34 / 54

87 Metodo della sostituzione Problemi con i casi base 2T ( n/2 ) + n n > 1 1 n 1 0 n 1 n/2 n/ n/4 n/4 n/4 n/4 log n log n Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 35 / 54

88 Metodo della sostituzione Problemi con i casi base 2T ( n/2 ) + n n > 1 1 n 1 O(n log n) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 35 / 54

89 Metodo della sostituzione Problemi con i casi base 2T ( n/2 ) + n n > 1 1 n 1 Tentativo: O(n log n) c > 0, m 0 : T (n) cn log n, n m Ipotesi induttiva: c > 0, k < n : T (k) ck log k. Passo di induzione: Dimostriamo la disequazione per T (n): 2T ( n/2 ) + n 2c n/2 log n/2 + n 2cn/2 log n/2 + n Sostituzione Intero inferiore = cn(log n 1) + n Passo algebrico = cn log n cn + n Passo algebrico? cn log n Obiettivo Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 36 / 54

90 Metodo della sostituzione Problemi con i casi base 2T ( n/2 ) + n n > 1 1 n 1 Tentativo: O(n log n) c > 0, m 0 : T (n) cn log n, n m Ipotesi induttiva: c > 0, k < n : T (k) ck log k. Passo di induzione: Dimostriamo la disequazione per T (n): T (n) cn log n cn + n? cn log n cn + n 0 c 1 Obiettivo Eliminazione cn log n Passo algebrico Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 36 / 54

91 Metodo della sostituzione Problemi con i casi base 2T ( n/2 ) + n n > 1 1 n 1 Tentativo: O(n log n) c > 0, m 0 : T (n) cn log n, n m Caso base: Dimostriamo la disequazione per T (1) T (1) = 1? 1 c log 1 = Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 36 / 54

92 Metodo della sostituzione Problemi con i casi base 2T ( n/2 ) + n n > 1 1 n 1 Tentativo: O(n log n) c > 0, m 0 : T (n) cn log n, n m Cosa succede? È falso, ma non è un problema: non a caso si chiama notazione asintotica. Il valore iniziale di m lo possiamo scegliere noi Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 36 / 54

93 Metodo della sostituzione Problemi con i casi base 2T ( n/2 ) + n n > 1 1 n 1 Tentativo: O(n log n) c > 0, m 0 : T (n) cn log n, n m Caso base: Dimostriamo la disequazione per T (2), T (3): T (2) = 2T ( 2/2 ) + 2 = 4 1 c 2 log 2 c 2 T (3) = 2T ( 3/2 ) + 3 = 5 1 c 3 log 3 c 5 3 log 3 T (4) = 2T ( 4/2 ) + 4 = 2T ( 2 ) + 4 Non è necessario provare la terza disequazione, in quanto viene espressa in base a casi base diversi da T (1) che sono già stati dimostrati e quindi possono costituire la base della nostra induzione. Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 36 / 54

94 Metodo della sostituzione Problemi con i casi base 2T ( n/2 ) + n n > 1 1 n 1 Tentativo: O(n log n) c > 0, m 0 : T (n) cn log n, n m Abbiamo provato che T (n) cn log n Nel passo induttivo: c 1 Nel caso base: c 2, c 5 3 log 3 Visto che sono tutti disequazioni con il segno, è sufficiente utilizzare un valore c max1, 2, 5 3 log 3 } Questo vale per n = 2, n = 3, e per tutti i valori di n seguenti Quindi m = 2 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 36 / 54

95 Metodo della sostituzione All together now! 9T ( n/3 ) + n n > 1 1 n 1 Tentativo: O(n 2 ) c > 0, m 0 : T (n) n 2, n m Ipotesi induttiva: c > 0 : T (k) ck 2, k < n Passo induttivo: Dimostriamo la disequazione per T (n) 9T ( n/3 ) + n 9c( n/3 ) 2 + n Sostituzione 9c(n 2 /9) + n Limite inferiore = cn 2 + n Passo algerbrico cn 2 Falso Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 37 / 54

96 Metodo della sostituzione All together now! 9T ( n/3 ) + n n > 1 1 n 1 Tentativo: O(n 2 ) c > 0, m 0 : T (n) n 2, n m Ipotesi induttiva: c > 0 : T (k) c(k 2 k), k < n Passo induttivo: Dimostriamo la disequazione per T (n) 9T ( n/3 ) + n 9c ( n/3 2 n/3 ) + n cn 2 3cn + n? cn 2 cn Sostituzione Limite inferiore Obiettivo c 1 2 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 37 / 54

97 Metodo della sostituzione All together now! 9T ( n/3 ) + n n > 1 1 n 1 Tentativo: O(n 2 ) c > 0, m 0 : T (n) n 2, n m Ipotesi induttiva: c > 0 : T (k) c(k 2 k), k < n Passo base: T (1) = 1 c(1 2 1) = 0, falso T (2) = 9T (0) + 2 = 11 c(4 2) c 11/2 T (3) = 9T (1) + 3 = 12 c(9 3) c 12/6 T (4) = 9T (1) + 4 = 13 c(16 4) c 13/12 T (5) = 9T (1) + 5 = 14 c(25 5) c 14/20 T (6) = 9T (2) + 6 Non è necessario andare oltre, perchè T (6) dipende da T (2) che è già stato dimostrato Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 37 / 54

98 Metodo della sostituzione All together now! 9T ( n/3 ) + n n > 1 1 n 1 Tentativo: O(n 2 ) c > 0, m 0 : T (n) n 2, n m Parametri: c max 1 m = 1 2, 11 2, 12 6, 13 12, } Notare che l esempio combina le due difficoltà insieme, ma è artificiale: Se avessimo scelto come ipotesi più stretta T (n) cn 2 bn, il problema sui casi base non si sarebbe posto Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 37 / 54

99 Metodo della sostituzione Riassumendo Metodo di sostituzione Si indovina una possibile soluzione e si formula un ipotesi induttiva Si sostituisce nella ricorrenza le espressioni T ( ), utilizzando l ipotesi induttiva Si dimostra che la soluzione è valida anche per il caso base Attenzione Ad ipotizzare soluzioni troppo strette Ad alcuni casi particolari che richiedono alcune astuzie matematiche Attenzione ai casi base: il logaritmo può complicare le cose Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 38 / 54

100 Algoritmi e Strutture Dati Analisi di algoritmi comuni Alberto Montresor Università di Trento 2018/12/27 This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.

101 Metodo dell esperto Metodo dell esperto Metodi per risolvere ricorrenze Metodo dell albero di ricorsione, o per livelli Metodo di sostituzione, o per tentativi Metodo dell esperto, o delle ricorrenze comuni comuni Esiste un ampia classe di ricorrenze che possono essere risolte facilmente facendo ricorso ad alcuni teoremi, ognuno dei quali si occupa di una classe particolare di equazioni di ricorrenza. Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 39 / 54

102 Metodo dell esperto lineari con partizione bilanciata Teorema Siano a e b costanti intere tali che a 1 e b 2, e c, β costanti reali tali che c > 0 e β 0. Sia T (n) data dalla relazione di ricorrenza: at (n/b) + cn β n > 1 d n 1 Posto α = log a/ log b = log b a, allora: Θ(n α ) Θ(n α log n) Θ(n β ) α > β α = β α < β Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 40 / 54

103 Metodo dell esperto lineari con partizione bilanciata Assunzioni Assumiamo che n sia una potenza intera di b: n = b k, k = log b n Perchè ci serve? Semplifica tutti i calcoli successivi Influisce sul risultato? Supponiamo che l input abbia dimensione b k + 1 Estendiamo l input fino ad una dimensione b k+1 (padding) L input è stato esteso al massimo di un fattore costante b Ininfluente al fine della complessità computazionale Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 41 / 54

104 Metodo dell esperto lineari con partizione bilanciata at (n/b) + cn β T (1) = d Liv. Dim. Costo chiam. N. chiamate Costo livello 0 b k cb kβ 1 cb kβ 1 b k 1 cb (k 1)β a acb (k 1)β 2 b k 2 cb (k 2)β a 2 a 2 cb (k 2)β i b k i cb (k i)β a i a i cb (k i)β k 1 b cb β a k 1 a k 1 cb β k 1 d a k da k Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 42 / 54

105 Metodo dell esperto lineari con partizione bilanciata Liv. Dim. Costo chiam. N. chiamate Costo livello i b k i cb (k i)β a i a i cb (k i)β k 1 d a k da k Sommando i costi totali di tutti i livelli, si ottiene: k 1 da k + cb kβ a i b iβ = i=0 k 1 ( a ) i dak + cb kβ b β i=0 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 43 / 54

106 Metodo dell esperto lineari con partizione bilanciata k 1 da k + cb kβ a i b iβ = i=0 k 1 ( a ) i dak + cb kβ b β i=0 Osservazioni a k = a log b n = a log n/ log b = 2 log a log n/ log b = n log a/ log b = n α α = log a/ log b α log b = log a log b α = log a a = b α Poniamo q = a b β = bα b β = b α β k 1 ( a ) i k 1 da k + cb kβ = dn α b β + cb kβ i=0 i=0 q i Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 44 / 54

107 Metodo dell esperto lineari con partizione bilanciata Caso 1: α > β Ne segue che: q = b α β > 1: dn α + cb kβ k 1 i=0 qi = n α d + cb kβ [(q k 1)/(q 1)] Serie geometrica finita n α d + cb kβ q k /(q 1) Disequazione = n α d + cbkβ a k b kβ /(q 1) Sostituzione q = n α d + ca k /(q 1) Passi algebrici = n α [d + c/(q 1)] a k = n α, raccolta termini Quindi T (n) è O(n α ). Per via della componente dn α, T (n) è anche Ω(n α ), e quindi Θ(n α ). Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 45 / 54

108 Metodo dell esperto lineari con partizione bilanciata Caso 2: α = β Ne segue che: q = b α β = 1: dn α + cb kβ k 1 i=0 qi e quindi T (n) è Θ(n α log n); = n α d + cn β k q i = 1 i = 1 = n α d + cn α k α = β = n α (d + ck) Raccolta termini = n α [d + c log n/ log b] k = log b n Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 46 / 54

109 Metodo dell esperto lineari con partizione bilanciata Caso 3: α < β Ne segue che: q = b α β < 1: dn α + cb kβ k 1 i=0 qi = n α d + cb kβ [(q k 1)/(q 1)] Serie geometrica finita = n α d + cb kβ [(1 q k )/(1 q)] Inversione n α d + cb kβ [1/(1 q)] Disequazione = n α d + cn β /(1 q) b k = n Quindi T (n) è O(n β ). Poichè Ω(n β ) per il termine non ricorsivo, si ha che Θ(n β ). Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 47 / 54

110 Metodo dell esperto lineari con partizione bilanciata (Estesa) Teorema Sia a 1, b > 1, f(n) asintoticamente positiva, e sia at (n/b) + f(n) n > 1 d n 1 Sono dati tre casi: (1) ɛ > 0 : f(n) = O(n log b a ɛ ) Θ(n log b a ) (2) f(n) = Θ(n log b a ) Θ(f(n) log n) (3) ɛ > 0 : f(n) = Ω(n log b a+ɛ ) c : 0 < c < 1, m > 0 : af(n/b) cf(n), n m Θ(f(n)) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 48 / 54

111 Metodo dell esperto lineari di ordine costante Teorema Siano a 1, a 2,..., a h costanti intere non negative, con h costante positiva, c e β costanti reali tali che c > 0 e β 0, e sia T (n) definita dalla relazione di ricorrenza: 1 i h a it (n i) + cn β n > m Θ(1) n m h Posto a = a i, allora: 1 i h 1 T (n) è Θ(n β+1 ), se a = 1, 2 T (n) è Θ(a n n β ), se a 2. Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 49 / 54

112 Metodo dell esperto Alcuni esempi Ricorrenza a b log b a Caso Funzione 9T (n/3) + n (1) Θ(n 2 ) f(n) = n = O(n log b a ɛ ) = O(n 2 ɛ ), con ɛ < 1 Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 50 / 54

113 Metodo dell esperto Alcuni esempi Ricorrenza a b log b a Caso Funzione T (2n/3) (2) Θ(log n) f(n) = n 0 = Θ(n log b a ) = Θ(n 0 ) Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 51 / 54

114 Metodo dell esperto Alcuni esempi Ricorrenza a b log b a Caso Funzione 3T (n/4) + n log n (3) Θ(n log n) f(n) = n log n = Ω(n log 4 3+ɛ ), con ɛ < 1 log Dobbiamo dimostrare che: c 1, m : af(n/b) cf(n), n m af(n/b) = 3n/4 log n/4 = 3/4n log n 3/4n log 2 3/4n log n? cn log n L ultima è diseguazione è soddisfatta da c = 3/4 e m = 1. Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 52 / 54

115 Metodo dell esperto Alcuni esempi Ricorrenza a b log b a Caso Funzione 2T (n/2) + n log n Non applicabile f(n) = n log n O(n 1 ɛ ), con ɛ > 0 f(n) = n log n Θ(n) f(n) = n log n Ω(n 1+ɛ ), con ɛ > 0 Nessuno dei tre casi è applicabile e bisogna utilizzare altri metodi. Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 53 / 54

116 Metodo dell esperto Alcuni esempi Ricorrenza a β Caso Funzione (A) T (n 10) + n (1) Θ(n 3 ) (B) T (n 2) + T (n 1) (2) 2 n (A) Poiché a = 1, il costo è polinomiale. (B) Poiché a = 2, il costo è esponenziale. Alberto Montresor (UniTN) ASD - Analisi di algoritmi 2018/12/27 54 / 54