In questa lezione: correttezza del mergesort Analisi del mergesort: relazioni di ricorrenza e alberi della ricorsione

Transcript

1 In questa lezione: correttezza del mergesort Analisi del mergesort: relazioni di ricorrenza e alberi della ricorsione Prof E Fachini - Intr Alg 1

2 MergeSort: correttezza MergeSort (A,p,r) if p < r then q (p+r)/2 MergeSort (A,p,q) MergeSort (A,q+1,r) Merge(A,p,q,r) Dimostriamo che Mergesort è corretto per induzione su n: Se n=1 è corretto Supponiamo che sia corretto per tutti gli arrays con meno di n elementi Sia A un array con n >1 elementi, allora p < r e si hanno le due chiamate su un numero di elementi che è circa la metà di n, quindi per queste chiamate vale l ipotesi induttiva: i due sottoarrys sono ordinati al termine dell esecuzione Poi si chiama la Merge, che correttamente fonde i due sottoarrays ordinati in uno ordinato di n elementi Prof E Fachini - Intr Alg 2

3 MergeSort: complessità MergeSort (A,p,r) if p < r then q (p+r)/2 MergeSort (A,p,q) MergeSort (A,q+1,r) Merge(A,p,q,r) Θ(1) Θ(1)?? Θ(n) T( n/2 ) T( n/2 ) Parte intera superiore Parte intera inferiore T(n) = Θ(1) se n 1 Relazione di ricorrenza T(n) = T( n/2 ) + T( n/2 ) + Θ(n) altrimenti Prof E Fachini - Intr Alg 3

4 Risolvere una ricorrenza Una ricorrenza è un equazione o una disequazione che lega il valore di una funzione ai valori che essa assume su argomenti più piccoli Risolvere una ricorrenza per una funzione T(n) consiste nel determinare un limite asintotico (O grande, Ω o Θ) per T(n) Metodo di soluzione: Sostituzione Prof E Fachini - Intr Alg 4

5 Metodo della sostituzione Fase 1 Si fa un ipotesi (guess) sulla soluzione Fase 2 Si verifica se la previsione è esatta, usando l induzione Prof E Fachini - Intr Alg 5

6 Preliminari: esplicitare le costanti Per poter risolvere una ricorrenza bisogna esplicitare le costanti nascoste T(n) = Θ(1) se n 1 T(n) = T( n/2 ) + T( n/2 ) + Θ(n) altrimenti Dove d e c sono costanti positive T(n) = d se n 1 T(n) = T( n/2 ) + T( n/2 ) + cn altrimenti Prof E Fachini - Intr Alg 6

7 Semplificare La ricorrenza è T(n) = d se n 1 T(n) = T( n/2 ) + T( n/2 ) + cn altrimenti Passiamo ai reali: T(n) = 2T(n/2) + cn altrimenti Prof E Fachini - Intr Alg 7

8 Risolvere una ricorrenza Ora la nostra ricorrenza è Sia n= 2 h T(n) = 2T(n/2)+cn = 2[2T(n/2/2)+cn/2] +cn = 4T(n/4)+ 2cn/2 +cn = 4[2T(n/4/2)+cn/4] + cn +cn = = 8T(n/8)+4cn/4 + cn +cn = Quante volte devo sommare cn a se stesso? h = 2 h T(1) + hc n Prof E Fachini - Intr Alg 8

9 Risolvere la ricorrenza 2 T(n) = 2 h T(1) + c n + + cn = 2 h T(1) + h c n Ma h = lg n Per cui T(n) = 2 h T(1) + c n lg n = dn + cn lg n Questo ci consentirà di concludere che la complessità del Mergesort è Θ(nlg n) Qualche volta queste sostituzioni sono difficili da gestire, può aiutare arrangiare i costi in un albero Prof E Fachini - Intr Alg 9

10 Albero di ricorsione T(n) = d se n 1 T(n) = 2T(n/2)+cn Sia n= 2 h livello 0 cn livello 1 cn/2 cn/2 livello 2 cn/2 2 cn/2 2 cn/2 2 cn/2 2 ivello h d d d d d d Prof E Fachini - Intr Alg 10

11 Albero di ricorsione T(n) = 2T(n/2)+cn cn Sia n= 2 h cn h cn/2 cn/2 cn/2 2 cn/2 2 cn/2 2 cn/2 2 d d d cn/2 + cn/2= cn 4cn/2 2 = cn d2 h = dn E un albero binario di altezza h, con h+1 livelli Su ogni livello, tranne l ultimo, la somma dei costi è cn quindi si ha un costo totale cn h+ dn = cn lg n + dn Prof E Fachini - Intr Alg 11

12 Conclusione Dimostriamo che esistono due costanti a e n0 tale che cn lg n + dn a(n lg n), per ogni n n0 Basta prendere a = c+d e n0 = 2 Dimostriamo che esistono due costanti b e n0 tale che cn lg n + dn b(n lg n), per ogni n n0 Basta prendere b = c e n0 = 1 Quindi concludiamo che c(n lg n) cn lg n + dn (c+d)(n lg n) per ogni n 2, cioè che T(n) = Θ(nlg n) Prof E Fachini - Intr Alg

13 F(n) = 0 F(n-1) + c Esempio 2 se n=0 se n>0 F(n) = c + F(n-1) = c + c + F(n-2) = 2c +F(n-2) = 2c + c +F(n-3) = 3c + F(n-3) E quindi per n k F(n) = kc + F(n-k) Quando k = n F(n) = cn + F(0) = cn Quindi F(n) = Θ(n) = kc + F(n-k) = ck + F(n-k) Prof E Fachini - Intr Alg 13

14 Semplificare la ricorrenza nell analisi Poiché il caso base, nel contesto dell analisi degli algoritmi, è sempre una costante, possiamo ometterlo Per esempio per descrivere la complessità del mergesort con una ricorrenza possiamo scrivere T(n) = 2T(n/2) + Θ(n) invece di T(n) = Θ(1) se n 1 T(n) = 2T(n/2) + Θ(n) altrimenti Prof E Fachini - Intr Alg 14

15 Fase 1 - la previsione Per la ricorrenza T(n) = 3T(n/4) + Θ(n 2 ) conviene usare un albero di ricorsione Prof E Fachini - Intr Alg 15

16 T(n) = c se n 1 T(n) = 3T(n/4) + cn 2 Albero di ricorsione Sia n= 4 h livello 0 livello 1 cn 2 c(n/4) 2 c(n/4) 2 c(n/4) 2 cn 2 3cn 2 /16 livello 2 livello h c(n/4 2 ) 2 c(n/4 2 ) 2 c(n/4 2 ) 2 c(n/42 ) cn 2 /16 2 c c c c c c c c c I nodi del livello h sono 3 h, per un costo totale 3 h c Prof E Fachini - Intr Alg 16

17 Albero di ricorsione T(n) = c se n 1 T(n) = 3T(n/4) + cn 2 livello 0 cn 2 Sia n= 4 h cn 2 livello 1 c(n/4) 2 c(n/4) 2 c(n/4) 2 3cn 2 /16 livello 2 livello h c(n/4 2 ) 2 c(n/4 2 ) 2 c(n/4 2 ) 2 c(n/42 ) cn 2 /16 2 c c c c c c c c c 3 h c h = log4 n, con un cambio di base log4 n = log3 n log4 3 3 h c = 3 log 3 n log4 3 c = n log 4 3 c Prof E Fachini - Intr Alg 17

18 T(n) = c se n 1 T(n) = 3T(n/4) + cn 2 Albero di ricorsione cn 2 Sia n= 4 h cn 2 c(n/4) 2 c(n/4) 2 c(n/4) 2 3cn 2 /16 h c(n/4 2 ) 2 c(n/4 2 ) 2 c(n/4 2 ) 2 ) cn 2 /16 2 c c c c c c c c c cn log 4 3 T(n)=(3/16) 0 cn 2 +(3/16)cn 2 +(3/16) 2 cn 2 + +(3/16) h cn h-1 + cn log 4 3 Prof E Fachini - Intr Alg 18

19 Conteggi (3/16) 0 cn 2 +(3/16)cn 2 +(3/16) 2 cn 2 + +(3/16) h-1 cn 2 + cn log 4 3 = cn 2 [(3/16) 0 +(3/16) + +(3/16) h-1 ] + cn log 4 3 Poiché 3/16 <1, se maggioriamo la serie di potenze finita con la serie estesa all infinito, possiamo sfruttare il fatto che questa serie converge a una costante Σi 0 (3/16) i = Θ(1) Potremmo concludere che T(n) = O(n 2 ), visto che log4 3 < 2 Siamo sicuri di questo risultato? Prof E Fachini - Intr Alg 19

20 Fase 2: verifica T(n) = 3T(n/4) + Θ(n 2 ) E vogliamo far vedere che T(n) = O(n 2 ) cioè che T(n) dn 2, per un certo d e per ogni n n0 Usiamo l induzione Passo induttivo: Supponiamo che sia vero per ogni m<n e consideriamo T(n) T(n)= 3T(n/4) + cn 2 3d(n/4) 2 + cn 2 = (3/16)dn 2 + cn 2 dn 2 basta prendere d (16/13)c Il caso base è ovvio essendo una costante Prof E Fachini - Intr Alg 20

21 Conclusione T(n) = 3T(n/4) + Θ(n 2 ) Abbiamo provato che T(n) =O(n 2 ) Osserviamo che il termine additivo è in Θ(n 2 ), fornendo un limite inferiore alla soluzione per T(n) Quindi possiamo dire che T(n) = Ω(n 2 ) e in definitiva che T(n) = Θ(n 2 ) Prof E Fachini - Intr Alg 21

22 Divide et impera: analisi Dato un problema di dimensione (taglia) n Dividi: dividi il problema in a sottoproblemi ciascuno di taglia n/b Conquista: risolvi ricorsivamente i sottoproblemi, quando il sottoproblema è di taglia minore o uguale a c risolvilo direttamente Combina: usa le soluzioni dei sottoproblemi per determinare la soluzione del problema dato D(n) at(n/b) Θ(1) C(n) T(n) = Θ(1) se n c T(n) = at(n/b) + D(n) + C(n) se n > c Prof E Fachini - Intr Alg 22

23 Esempio 3 Una relazione di ricorrenza può essere impostata per risolvere un problema: calcola in quanti modi si può salire su una scala di n gradini, se ad ogni passo si sale di 1 o di 2 scalini ModiSalita(1) = 1 ModiSalita(2) = 2 ModiSalita(n) = ModiSalita(n-1) + ModiSalita(n-2) Perché il primo addendo dà conto di tutti i modi che terminano con la salita di un solo scalino e l altro quelli che terminano con 2 scalini In ModiSalita(n-2) se completo con la modalità uno scalino alla volta, ricalcolo le modalità considerate in ModiSalita(n-1), quindi bisogna tener conto solo della modalità che termina con 2 scalini Prof E Fachini - Intr Alg 23