2T(n/2) + n se n > 1 T(n) = 1 se n = 1

Transcript

1 3 Ricorreze Nel caso di algoritmi ricorsivi (ad esempio, merge sort, ricerca biaria, ricerca del massimo e/o del miimo), il tempo di esecuzioe può essere descritto da ua fuzioe ricorsiva, ovvero da u equazioe che descrive ua fuzioe i termii del suo valore co iput più piccoli. Esempio T(/) + se > 1 1 se = Metodo iterativo Il metodo iterativo cosiste ello srotolare la ricorreza, cioè richiamare, la ricorreza u certo umero di volte (ogi volta co u argometo di dimesioe più piccola) fi quado o è possibile esprimerla come ua somma di termii dipedeti solo da e dalle codizioi iiziali. Questo metodo, così la sua variate il metodo dell albero di ricorsioe si rivela particolarmete utile quado o si hao idee precise sull ordie di gradezza della ricorreza. Etrambi i metodi permettoo ifatti di capire come si dipaao i costi ella ricorsioe. Exercise 3.1. Si risolva le segueti ricorreze usado il metodo iterativo. Suppoete che ciascua T() sia pari ad uo quado = 1 1. c + T(/). 1 + T(/) T(/3) Soluzioe. 1. Ad esempio el caso della prima ricorreza: c + T(/) = c + c + T(/) = dopo due passi = c + c + c + T(/) dopo tre passi = c + c + c + c + T(/16) = dopo quattro passi =... = kc + T(/ k ) dopo k passi

2 1 3 Ricorreze. Cotiuiamo a srotolare la ricorreza fi quado / k = 1 ossia fi quado k = lg. Allora, possiamo riscrivere T() come segue: c log + T(1) = c lg + 1 = Θ(lg ) 1 + T(/) = 1 + ( 1 + T(/) ) = T(/) dopo passi = ( 1 + T(/) ) = T(/) dopo 3 passi = k 1 + k T(/ k ) dopo k passi = k 1 i + k T(/ k ) Di uovo cotiuiamo a srotolare la ricorreza fi quado / k = 1 ossia fi quado k = lg. Allora, possiamo riscrivere T() come segue: lg 1 i + lg = lg 1 i + = 1 lg 1 + = 3. (1 ) + = ( 1) + = 1 = Θ() 3 + 3T(/3) = ( (/3) 3 + 3T(/9) ) = /9 + 9T(/9) dopo passi = /9 + 9 ( (/9) 3 + 3T(/7) ) = = /9 + 3 /9 + 7T(/7) dopo 3 passi = /9 + 3 /9 + 7 ( (/7) 3 + 3T(/1) ) = /9 + 3 /9 + 3 /7 + 1T(/1) = /9 + 3 /9 + 3 / T(/1) dopo passi =... = k 1 3 /9 i + 3 k T(/3 k ) = 3 k 1 (1/9) i + 3 k T(/3 k ) dopo k passi I questo caso ci fermiamo quado /3 k = 1 e quidi quado k = log 3 log ( 1 9 )i + = 3 1 (1 9 )log = 3 1 (1 9 )log = 9 3 ( log 3 ) + +

3 Poichè 9 log 3 = log 3 9 = (poichè a log b c = c log b a ): 3. Metodo dell albero di ricorsioe ( 1 1 ) + = = = Θ(3 ) 3. Metodo dell albero di ricorsioe È ua variate del metodo iterativo. U albero di ricorsioe permette di visualizzare lo sviluppo della ricorsioe e dei costi; ogi suo odo rappreseta il costo di u particolare sottoproblema apparteete all isieme delle chiamate ricorsive della fuzioe. Il valore della ricorreza viee calcolato sommado prima i costi dei odi su ciascu livello, e poi determiado il costo totale di tutti i livelli dell albero di ricorsioe. Exercise 3.. Risolvere co il metodo dell albero di ricorsioe la seguete ricorreza 3 + T(/) se > 1 1 se = 1 Soluzioe. Costruzioe dell albero di ricorsioe: iizialmete, l albero ha u solo odo la radice che rappreseta il costo complessivo della chiamata di T() la radice viee espasa secodo la defiizioe della ricorreza. Nel ostro caso otteiamo il seguete albero 3 T( ) T( ) ossia, ua rappresetazioe grafica del fatto che il costo di ua chiamata di T() è pari 3 più il costo di due chiamate di T(/) i maiera simile, espadiamo i odi relativi alle due chiamate di T(/) ottedo 3 ( )3 ( )3 T( ) T( ) T( ) T( ) a questo puto, oguo di quattro odi relativi ad ua chiamata di T(/) geererà u albero la cui radice etichettata co (/) 3 ha due figli che rappresetao il costo di ua chiamata di T(/).

4 0 3 Ricorreze 3 ( )3 ( )3 h = log ( )3 ( )3 ( )3 ( )3 ( )3 ( )3 ( )3 ( )3 ( )3 ( )3 ( )3 ( )3 Fig Albero di ricorsioe per T(/) + 3 procediamo i questo modo fio a raggiugere la codizioe di cotoro, ossia quell particolare valore di tipicamete 1 che o da luogo ad ulteriori chiamate ricorsive. Otteiamo l albero descritto i Figura 3.1. Calcolo dei costi associati all albero ogi livello i ha i odi oguo dei quali ha u costo di ( i ) 3. Il costo di ciascu livello i è pari a: c i = i ( = 3 i)3 ( i ) = 3 i l ultimo livello corrispode ad ua chiamata di T(/ h ) co h = 1 e quidi h = lg (qui h è pari all altezza h dell albero). T() è pari alla somma della somma dei costi associati ai odi dell albero di ricorsioe, i particolare h c i = 3 ( 1 1 lg 3 lg = 3 i (1 )lg 3 ( ( 1 ( 1 ( 1 )i = ) = ( ( 1 lg ) ) = 1 ) = (1 lg ) = lg ( ) = = Θ(3 ) )lg +1 ) =

5 3. Metodo dell albero di ricorsioe 1 Exercise 3.3. Risolvere la seguete ricorreza co il metodo dell albero di ricorsioe, assumedo che T(1) = 1 T( ) + T( ) + Soluzioe. L albero di ricorsioe per T() è illustrato i Figura 3.. Come per ogi altro albero di ricorsioe, le dimesioi dei sottoproblemi dimiuiscoo via via che ci si allotaa dalla radice, fio a raggiugere le codizioi di cotoro (la codizioe di cotoro è il particolare valore di tipicamete 1 che o da luogo ad ulteriori chiamate ricorsive). Il problema co questo tipo di ricorreze è che le codizioi di cotoro vegoo raggiute a diverse distaze dalla radice. Questo perchè il odo più a siistra e quello più a destra di u geerico livello i corrispodoo, rispettivamete, a sottoproblemi di dimesioe e, e i i i decresce (e quidi arriverà ad assumere il valore 1) molto più rapidamete di. I altri termii, la codizioe di cotoro viee raggiuta a siistra ad ua i distaza h dalla radice co h tale che = 1 (ossia = h e quidi h = log h ). A destra, ivece, la codizioe di cotoro viee raggiuta ad ua distaza k dalla radice co k tale che = 1 (e quidi k = log ). k Il costo di ogi livello i co i = 0,...,h è pari a c i = ( 3 )i. Ifatti c 0 = = ( 3 )0 c 1 = + = (1 + 1) = 3 c = = ( 1 16 c 3 = ( ) = = 9 = (3 ) ) = = 7 = 6 6 (3 )3 Il costo di ciascu livello i = h + 1,...,k è sicuramete miore o uguale di ( 3 )i (macao alcui odi a siistra e di cosegueza il cotributo di questi odi al costo complessivo del livello). Ricapitolado: l albero è costituito da log + 1 livelli; ioltre, per ogi i = 0...log, il costo c i ( 3 )i. Quidi: ( ) log +1 log log ( 3 i log ( 3 3 i 1 c i = = ) ) 1 3 = ( ) log ( = 1 3 ( 3 log ) ( = 1 ) 3 ) 3 log 1 Ora, log 3 = log 3 log = (log log 3) = log = α, co α = log 3 ( e quidi 3 ) (poichè > 1) α > 0. Allora 3 log 3 = α = 1 e g() = 1 3 α log 3 = ( ) ( ) ( ) = 1 3 = Θ(). Ifie, T() g() = 1 3 α α log 3 e g() = Θ() implica O().

6 3 Ricorreze T( ) T( ) (a) T( 16 ) T( ) T( ) T( ) (b) 16 T( 6 ) T( 3 ) T( 3 ) T( 16 ) T( 3 ) T( 16 ) T( 16 ) T( ) (c) h = log k = log 1 1 (d) Fig. 3.. Albero di ricorsioe per T(/) + T(/) +

7 3.3 Medoto della sostituzioe 3 Exercise 3.. Risolvere co il metodo dell albero di ricorsioe la seguete ricorreza 3T(/) + se > 1 1 se = 1 Soluzioe. 1 Ogi livello i dell albero di ricorsioe per T() (vedi Figura 3.3) ha esattamete 3 i odi oguo dei quali ha u costo di. Il costo complessivo del livello i è: i c i = 3 i = ( 3)i i l ultimo livello h cotiee odi (i realtà foglie) corrispodeti al costo di ua chiamata di T( ) co = 1 e quidi h = log h h Allora h ( 3 )i = log ( 3 )i = 1 ( 3 )log = 1 ( 3 )log +1 1 = (( 3 log +1 ) 1 = ) ( 3 ( 3 log ) 1 = ) ( 3 3log ) 1 = ( 3 log log 3 ) 1 = ( 3 log log 3 ) 1 = 1 ( 3 log 3 ) 1 = 3 log 3 Ifie 1 = log < log 3, implica 3 log 3 = Θ( log 3 ) poichè log 3 è il termie di ordie superiore 3.3 Medoto della sostituzioe Il metodo della sostituzioe prevede due passi. Nel primo passo si stima l ordie di gradezza asitotico per T(). Nel secodo passo si dimostra, per iduzioe su, la correttezza dell ordie di gradezza stimato. Il metodo si rivela utile quado si ha già u idea della soluzioe alla ricorreza studiata. Exercise 3.5. Si cosideri la seguete ricorreza 3 + 3T(/3) se > 1 1 se = 1 Dimostrare, applicado il metodo della sostituzioe che O( 3 ) 1 per la risoluzioe di questo esercizio occorre ricordarsi che = 1

8 3 Ricorreze T( ) T( ) T( ) (a) T( 16 ) T( 16 ) T( 16 ) T( 16 ) T( 16 ) T( 16 ) T( 16 ) T( 16 ) T( 16 ) (b) k = log (c) Fig Albero di ricorsioe per 3T(/) + Soluzioe. Dobbiamo dimostrare che esistoo delle costati positive c ed 0 tali che T() 3 per ogi 0. Procediamo per iduzioe su. Caso base = 1. Se scegliamo c 1 allora T(1) = 1 c = c1 3. Passo iduttivo > T( 3 ) 3 + 3c( 3 )3 per ip. iduttiva T( 3 ) c( 3 )3 = = ( c)3 3 L ultima disuguagliaza è vera solo se la costate c è scelta i maiera tale che c c, ossia se c 1 9 c 1, il che implica 9 c 1 e quidi c 9. Ricapitolado se scegliamo c 9 e 0 = 1, allora T() 3 per ogi 0. Exercise 3.6. Si cosideri la seguete ricorreza

9 T(/) + log se > 1 1 se = Medoto della sostituzioe 5 Dimostrare, applicado il metodo della sostituzioe che O((log ) ) Soluzioe. Dimostriamo che T() (log ) per ogi (qui abbiamo scelto c = e 0 = ) Procediamo per iduzioe su. Caso base =. T() = T( ) + log = T(1) + 1 = = (log ). Passo iduttivo >. T( ) + log per ip. iduttiva T() (log ) (log ) + log log = log log = log 1 = (log 1) + log = (log ) log + + log = (log ) (3 log ) (log ) L ultima disuguagliaza è vera poichè > implica log > 1 e 3 log > 3 > 1. Exercise 3.7. Si cosideri la seguete ricorreza T( ) + T() + se > 1 1 se = 1 Dimostrare, applicado il metodo della sostituzioe che O() Soluzioe. Dobbiamo dimostrare che esistoo delle costati positive c ed 0 tali che T() per ogi 0. Procediamo per iduzioe su. Caso base = 1. Se scegliamo c 1 allora T(1) = 1 c = c1. Passo iduttivo > 1. T( ) + T( ) + per ip. iduttiva T( ) e T( ) = c + + = ( c + c + 1) = ( 3 c + 1) L ultima disuguagliaza è vera se scegliamo c i maiera tale che 3c + 1 c, quidi c 3c = 1 c 1. I defiitiva basta scegliere c. Exercise 3.. Forire u limite asitotico stretto per la ricorreza T( 3 ) + se > 3 1 se 1 3

10 6 3 Ricorreze Soluzioe. La ricorreza T() è molto simile alla ricorreza T T ( () = ) + se > 1 1 se = 1 che ha il seguete limite asitotico stretto T () = Θ( log ). Dimostriamo che Θ( log ) usado il metodo della sostituzioe. La prova cosiste di due fasi: (1) dimostriamo che O( log ) e poi () dimostriamo che Ω( log ). (1) Per defiizioe O( log ) se esistoo delle costati positive c, 0 tali che T() log per ogi 0. Procediamo per iduzioe su. Casi base = 1: T(1) = 1 c1 log 1 = 0 (per = 1 la proprietà o è verificata, questo sigifica che 0 deve essere maggiore di 1). = : T() = 1 c log = c se scegliamo c 1. = 3: T(3) = 1 c3 log 3 = 3c log 3; vera se c 1. Ifatti, se c 1 allora 3c log 3 3c log = 3c 3 1. Passo iduttivo: > 3 T( 3) + (c 3 log( 3)) + (c log()) + (log 1) + = log + = log (c 1) poichè c 1 log Ricapitolado, se scegliamo la costate c 1, T() log per ogi 0 = () Per defiizioe Ω( log ) se esistoo delle costati positive c, 0 tali che T() log per ogi 0. Procediamo per iduzioe su. Casi base = 1: T(1) = 1 c1 log 1 = 0 = : T() = 1 c log = c se scegliamo c 1. = 3: T(3) = 1 c 3 log 3 = 3c log 3. Poichè 3c log 3 3c log = 6c, c 1 6 implica 3c log 3 6c 1. Possiamo sceglire c Passo iduttivo: > 3

11 3. Metodo dell esperto 7 T( 3) + (c 3 log( 3)) + = c( 3) log( 3 3 ) + poichè > 3 implica c( 3) log( ) + = c( 3)(log 3) + = c[ log 3 3 log + 9] + = log 3 3c log + 9c + log 3 3c log + = log + (1 3c) 3c log se c 1, 1 3c log + 1 3c log se c 1 6 log log log + 1 ( log ) log 6 = 1, 3c = 1 Ricapitolado, se scegliamo la costate positiva c 1/6, T() log per ogi 0 = 1 3. Metodo dell esperto Exercise 3.9. Applicare il metodo dell esperto per determiare i limiti asitotici stretti per le segueti ricorreze (assumete 1 per = 1) 1. T(/) +. T(/) + 3. T(/) + 3 Soluzioe. I tutti e tre i casi abbiamo che a = e b =. Cambia ivece il rapporto tra f() e log b a =. Ogua delle tre ricorreze corrispode ad u diverso co u caso del teorema del master. 1. f() = ed f() = O() = O( log b a ε ) co ε = 1 > 0 (i altri termii, log b a è u limite superiore per f()). Primo caso del teorema del master: Θ( log b a ) = Θ( ). f() = ed f() = Θ( ) = Θ( log b a ) (ossia, log b a è u limite stretto per f()). Secodo caso del teorema del master: Θ( log b a log ) = Θ( log ) 3. f() = 3 ed f() = Ω( 3 ) = Ω( log b a+ε ) co ε = 1 > 0 (ossia, log b a è u limite iferiore per f()). Ioltre, af( ) = b ( )3 = 3 = (se scegliamo c 1 < 1). Terzo caso del teorema del master: Θ(f()) = Θ( 3 ) Exercise La ricorreza T( ) + descrive il tempo di esecuzioe di u algoritmo A. U altro algoritmo A ha u tempo di esecuzioe T () = at ( ) +. Quale è il più grade valore di a che rede A asitoticamete più veloce di A.

12 3 Ricorreze Soluzioe. Calcoliamo iazitutto la complessità asitotica di T(). Poichè a = e b =, f() = ha log b a = 3 come limite superiore (caso 1 del teorema del master). Allora Θ( log b a ) = Θ( 3 ). Aaliziamo ora la secoda ricorreza. Se scegliamo a = 6, allora log b a = log 6 = 3. Esattamete come el caso precedete, T () = Θ( log b a ) = Θ( 3 ). Quidi, A e A hao lo stesso comportameto asitotico. Assumiamo, ora, 16 < a < 6. Allora, = log b 16 < log b a < log b 6 = 3. I oguo di questi casi, f() = = O( ) = O( log b a ε ) per qualche ε > 0 (di uovo, caso 1 del teorema del master). Allora, T () = Θ( log b a ) co log b a < 3. Questo dimostra che il più grade valore di a che rede A asitoticamete più veloce di A è 63. Exercise Il metodo dell esperto può essere applicato alla ricorreza La ricorreza T( ) + log. Perchè o perchè o? Soluzioe. I questo caso log b a = log = può solo essere u limite iferiore e stretto per f() = log (casi 1 e del teorema del master). Quidi, l uica speraza di poter risolvere questa ricorreza co il teorema del master cosiste el cercare di ricodurla al terzo caso del suddetto teorema. Ricordo che il terzo caso del teorema del master richiede che (1) f() = Ω( log b a+ε ) per qualche ε > 0 e () che af(/b) cf() per qualche c < 1. La secoda codizioe el ostro caso diveta: ( ) log( ) = (log 1) log ossia e, poichè 0: (log 1) log = ((1 c) log 1) 0 (1 c) log 1 0 Il problema è che la disequazioe (1 c) log 1 0 o è sempre verificata. Ifatti, per ogi > 1 1 c, log > 1 e (1 c) log 1 > (1 c) 1 1 = 1 c 1 c 1 1 = 0. Questo sigifica che T() o soddisfa la codizioe () e quidi che il teorema del master o può essere usato per risolvere questa ricorreza. 3.5 Misti Exercise 3.1. Trovare u limite superiore ed iferiore per la seguete ricorreza Assumete 1 per. + 1 Soluzioe. Proviamo a risolvere la ricorreza usado il metodo iterativo teedo presete che = 1 e quidi che T() può essere riscritta come 1 +1.

13 1 + 1 = [() + 1] + 1 = 1 + = [( 1 ) 1 + 1] + = = [( 1 ) 1 + 1] + 3 = =... = 1 k + k 3.5 Misti 9 Ci fermiamo quado 1 k =. Possiamo detemiare il valore di k come segue: Quidi 1 k = log( 1 k ) = log 1 k log = 1 k = log log( k ) = log(log ) k = log log Ricapitolado, + log log = Θ(log log ) Exercise Forire u limite asitotico stretto per la ricorreza T( ) + log. Soluzioe. La risolviamo co il metodo iterativo. log + T( ) = log + [( ) log + T()] = log + (log 1) + 16T( = log + (log 1) + 16[( ) log + T()] = log + (log 1) + (log ) + 6T( = log + (log 1) + (log ) + 6[( ) log + T( )] 16 = log + (log 1) + (log ) + (log 3) + 56T( 16 =... = k 1 (log i) + k T( ) k Ora: ) dopo passi Ci fermiamo quado k = 1 e quidi quado k = log. Allora log = log = log 1 log 1 (log i) + log (log i) = (poedo j = log i) log j=1 Quidi: ) dopo 3 passi j = log (log +1) log 1 (log i) + log = log (log + 1) + = Θ( (log ) ) i geerale, log a = a log ) dopo passi

14 30 3 Ricorreze Exercise 3.1. Forire u limite asitotico stretto per la ricorreza T( 1) + se > 1 1 se = 1 Soluzioe. 1 implica = 3 Exercise Posto T(0) = T(1) = 1, risolvere la seguete ricorreza usado il metedo iterativo T( ) + 3 Soluzioe. T( ) + 3 = [T( ) + 3] + 3 = T( ) dopo passi = [T( 6) + 3] + 3 = T( 6) dopo 3 passi = [T( ) + 3] + 3 = 16T( ) dopo passi =... = k T( k) + k 1 i 3 dopo k passi Se = m (è pari) ci fermiamo quado k = 0 e quidi quado k = m =. Se = m+1 (è dispari) ci fermiamo quado k = 1 e, di uovo, quado k = m =. I etrambi i casi: + 1 i 3 = = + 3 ( 1) = 3 i = Ora: implica 3 3 = O( ) 1

15 C Altri esercizi sulle ricorreze L obiettivo di questo capitolo è quello di forire ua serie di esercizi molti dei quali già risolti che vi cosetirrao di acquisire le capacità ecessarie per risolvere le ricorreze. C.1 Metodo Iterativo Exercise C.1. risolvere le segueti ricorreze co il metodo iterativo 1. T(1) = 1, e per tutti gli, 3T( 1) +. T(1) =, e per tutti gli, 3T( 1) T(1) = 3, e per tutti gli, T( 1) + 3. T(1) = 1, e per tutti gli, T(/) Soluzioe T( 1) = + 3 ( + 3T( ) ) = T( ) = T( 3) = = k 1 3i + 3 k T( k) I questo caso la ricorsioe viee srotolata fi quado k = 1, ossia quado k = 1. Allora possiamo cocludere che 3i T(1) = 3i = = = (3 1 1) = T( 1) = ( T( ) ) = T( ) = T( 3) = = 15 k 1 3i + 3 k T( k) Di uovo, la ricorsioe viee srotolata fi quado k = 1, ossia quado k = 1. Allora possiamo cocludere che

16 0 C Altri esercizi sulle ricorreze 15 3i T(1) = = 15 (3 1 1) = 3 1 ( 15 ) + 15 = ( 3) + T( 1) = ( 3) + (( 1) 3) + T( ) = ( 3) + (( 1) 3) + (( ) 3) + T( 3) = = k 1 (( i) 3) + T( k) Di uovo, la ricorsioe viee srotolata fi quado k = 1, ossia quado k = 1. Allora possiamo cocludere che (( i) 3) + T(1) = (( i) 3) + 1 ( ) A questo puto, poedo j = ( i) 3 (ota: se i = 0 allora j = 3, metre i = implica j = ( ( )) 3 == 3 = 1) abbiamo che (( i) 3) = 3 j=1 j = ( 3)( 3+1) = ( 3)( ) = ( 3)( 1) = Sostituedo questo valore i ( ) otteiamo ifie: = 5 +. (6 1) + T( ) = (6 1) + (6 1) + T() = (6 1) + (6 ) + T( ) dopo due sostituzioi = (6 1) + (6 ) + (6 1) + T() = (6 1) + (6 ) + (6 ) + T( ) dopo tre sostituzioi = = k 1 (6 i ) + k T( ) I questo caso ci fermiamo quado k = 1 ossia quado k = log. Allora: k log 1 (6 i ) + log T(1) = 6 log 1 1 log 1 i + Ora log 1 1 = log, metre log 1 i = 1 log 1 = log 1 = 1. Quidi 6 log ( 1) + = 6 log + 1