Note per la Lezione 11 Ugo Vaccaro

Transcript

1 Progettazioe di Algoritmi Ao Accademico Note per la Lezioe 11 Ugo Vaccaro Abbiamo visto ella lezioe scorsa u argometo ituitivo secodo il quale il tempo medio di esecuzioe di QuickSort è O( log ). Rideriviamo il risultato i maiera più formale. Come coveuto, procediamo a caso, ovvero scegliamo a caso, equiprobabilmete l idice pivot i[siistra...destra]. Secodo questo modo di procedere, poichè la probabilità di scegliere u elemeto a[pivot] di rago 1, 2,... è sempre la stessa, ovvero pari a 1/(destra-siistra+1), avremo che QuickSort impiegherà tempo T( 1)+d co probabilità 1/, tempo T(1)+T( 2)+d co probabilità 1/,..., T(r 1)+T( r)+d co probablità 1/..., e così via. Mediado, il tempo medio T() di QuickSort (dove il valor medio è calcolato su tutte le possibili scelte dell elemeto a[pivot]) sarà pari a T() =(T( 1)+Θ()) Pr{di aver scelto u elemeto a[pivot] di rago 1}+ (T(1)+T( 2)+Θ()) Pr{di aver scelto u elemeto a[pivot] di rago 2}+ (T(2)+T( 3)+Θ()) Pr{di aver scelto u elemeto a[pivot] di rago 3}+. (T( 1)+Θ()) Pr{di aver scelto u elemeto a[pivot] di rago } = 1 (T(i 1)+T( i))+θ() = 1 T(i 1)+ 1 T( i)+θ() = 1 1 T(i)+ 1 1 T(i)+Θ() i=0 i=0 = 2 1 T(i)+Θ() dove abbiamo assuto che T(0) = 0. Proveremo ora che T() = O(log), e lo faremo per iduzioe su. Assumeremo cioè che per tutti gli i < sia possibile scegliere costati a e b tali che T(i) ailogi+b, e poi proveremo che lo stesso vale ache per i =. 1

2 Assumiamolo, quidi, e otteiamo T() = 2 1 T(i) 2 1 (ailogi+b)+θ() = 2a = 2a 1 ilogi+ 2 1 b+θ() Suppoiamo per il mometo (poi lo proviamo...) che Sotto questa ipotesi abbiamo che T() = 2a 2a 1 ilogi+ 2b( 1) +Θ() 1 ilogi log (1) 1 ilogi+ 2b( 1) +Θ() ( log 1 ) b( 1) +Θ() alog a 4 +2b+Θ() =alog+b+ (Θ() a ) 4 +b alog+b+(c a +b) (per qualche c opportua) 4 alog+b purchè si siao scelti a ed tali che a > (4c + 1) ed > b (e questo lo possiamo sempre fare). Pertato, per completare la prova che T() = O(log) 2

3 occorre provare la (1). E lo facciamo: 1 /2 1 ilogi = ilogi+ /2 1 1 i= /2 ilog i= /2 ilogi /2 1 =(log 1) i+log 1 =log /2 1 i i ilog 1 i= /2 = 1 2 ( 1)log ( 1)log 1 ( ) log i 2 ( 2 1 ) dove abbiamo più volte usato la formula t k = t(t+1). 2 Pausa di riflessioe: (Riflettiamo...) Cosa abbiamo fatto? Abbiamo preso u algoritmo (QuickSort) che ha u tempo di esecuzioe O( 2 ) el caso peggiore, e itroducedo scelte casuali al suo itero, lo abbiamo trasformato i u algoritmo co tempo di esecuzioe medio O(log) E come lo abbiamo fatto? Aalizzado attetamete le situazioi che coducevao al caso peggiore O( 2 ), abbiamo appreso che esse erao causate dalla scelta di u Pivot di rago i o troppo piccolo o troppo grade (ricordate la equazioe di ricorreza T() = (T(i 1) +T( i)) +Θ()) Tali situazioi sfavorevoli erao poche, pertato scegliedo il Pivot a caso, é piccola la probabilità di ricadervi ergo è grade la probabilità di ricadere i ua situazioe favorevole, ovvero i ua scelta di Pivot che implica ua complessità per QuickSort di tipo O(log) e quidi... (Cocludiamo...) visto che la probabilità di adar male è piccola e quella di adar bee è grade, il tempo di esecuzioe medio di Quicksort è più vicio al caso buoo O(log) che al caso cattivo O( 2 ) L idea appea illustrata ha ovviamete validità geerale, e può essere i liea di pricipio applicata a molte altre situazioi, ad esempio la seguete. 3

4 Dato u array a=[0]...a[-1], ricordiamo che il rago di u geerico elemeto x i a è il umero di elemeti che soo di x el vettore a. Ad esempio, l elemeto di rago 1 sarà il miimo di a, metre l elemeto di rago sarà l elemto di valore massimo i a. I questa lezioe, cosideriamo il seguete problema Selezioe: Iput: array a=[0]...a[-1], itero k {1,2,...,} Output: l elemeto di rago k i a. Esiste ovviamete u semplice algoritmo di complessità O( log ) per risolvere il problema: ordia a=[0]...a[-1] e restituisci a[k-1]. Possiamo far meglio? Nel caso i cui k è ua costate c (1, 2,...) oppure k = c chiaramete possiamo risolvere il problema i tempo Θ() (basterà cercare il miimo se c = 1, il secodo miimo se c = 2, etc...). Ed i geerale? Prima acora di chiederci come trovare l elemeto di rago k ell array a=[0]...a[-1], chiediamoci: come stabilire che u dato elemeto x di a=[0]...a[-1] è (o o è) l elemeto di rago k di a=[0]...a[-1]? U modo semplice potrebbe essere il seguete: dividiamo l array a=[0]...a[-1] i A 1 =tutti y<x x A 2 = tutti y>x come facevamo i QuickSort. Se A 1 = k 1, l elemeto x è proprio l elemeto di rago k che cercavamo, se A 1 k 1 l elemeto x o è l elemeto di rago k che cercavamo (tale test riusciamo a realizzarlo i tempo Θ()). La cosa iteressate è che il test ci dice molto di più del solo fatto che l elemeto a è o o è l elemeto di rago k di a=[0]...a[-1]. U possibile algoritmo basato su Divide et Impera potrebbe essere il seguete: Partiamo dall array a=[0]...a[-1] a = e vogliamo trovare l elemeto di rago k i a=[0]...a[-1] scegliamo u elemeto x i a=[0]...a[-1] e dividiamo a=[0]...a[-1] i: A 1 =tutti y<x x A 2 = tutti y>x Dove sarà l elemeto di rago k? Se A 1 = k 1, allora l elemeto di rago k é proprio x. Se A 1 k, allora l elemeto di rago k sarà i A 1 Se A 1 < k 1, allora l elemeto di rago k sarà i A 2. Possiamo quidi usare ciò che sappiamo sulla procedura Distribuzioe vista ella lezioe scorsa. Ricordiamo che la procedura Distribuzioe permette di trovare il rago del pivot scelto, posizioado tutti gli elemeti iferiori al pivot alla sua siistra e tutti gli elemeti più gradi del pivot alla sua destra. I base a tale osservazioe, possiamo modificare il codice di ordiameto per distribuzioe cosiderado che, per risolvere il problema della selezioe è sufficiete proseguire ricorsivamete el solo segmeto dell array coteete l elemeto da selezioare. 4

5 1. QuickSelect (a, siistra, k, destra) 2. IF (siistra == destra) { 3. RETURN a[siistra] 4. } ELSE { 5. scegli pivot ell itervallo [siistra... destra] 6. rago=distribuzioe (a, siistra, pivot, destra) 7. IF (k-1 == rago) { 8. RETURN a[rago] 9. } ELSE IF (k-1< rago) { 10. RETURN QuickSelect (a, siistra, k, rago-1) 11. } ELSE { 12. RETURN QuickSelect (a, rago+1, k, destra) } } Se volessimo aalizzare la complessità T() di QuickSelect(a, 0, k, -1) el caso peggiore, allora o potremmo far altro che assumere che l elemeto che cerchiamo si trovi sempre ella parte di array a più grade, per cui avremmo u equazioe di ricorreza del tipo T() { c se 1 T(max(r 1, r))+d altrimeti (2) dove r =rago +1 (ovvero la posizioe occupata dall elemeto a[pivot] dopo la chiamata di Distribuzioe). No è difficile vedere che la (2) ammette diversi tipi di soluzioe, a secoda del valore di r. Ad esempio, se la ricorsioe fosse sempre del tipo T() T( 1) + d, avremmo ua soluzioe T() = O( 2 ), metre se fosse sempre del tipo T() T(/2) + d avremmo ua soluzioe T() = O(). Come fatto ella lezioe scorsa, decidiamo quidi di scegliere l elemeto pivot a caso, ed aalizziamo la complessità dell algoritmo risultate el caso medio. Avremmo quidi che tale valor medio sarà T() (T( 1)+Θ()) Pr{di aver scelto u elemeto a[pivot] di rago 1}+ (T(max(1, 2))+Θ()) Pr{di aver scelto u elemeto a[pivot] di rago 2}+ (T(max(2,( 3))+Θ()) Pr{di aver scelto u elemeto a[pivot] di rago 3}+. (T( 1)+Θ()) Pr{di aver scelto u elemeto a[pivot] di rago } = 1 T(max(k 1, k))+θ(). dove abbiamo assuto che T(0) = 0. Osserviamo ora che max(k 1, k) = { k 1 se k > /2 k se k /2. 5

6 Se è pari, allora ogi termie da T( /2 ) fio a T( 1) compare due volte, metre se è dispari allora tutti questi termii appaioo due volte metre il termie T( /2 ) appare ua sola volta. Pertato, possiamo dire che T() 2 k= /2 T(k)+O(). (3) Risolveremo questa ricorreza per iduzioe su. Assumiamo che T(k) ck, per qualche costate c, e per tutti i valori di k <. Sostituedo i (3) otterremo T() 2 2 = 2c k= /2 k= /2 T(k)+O() ck +a /2 1 k k +a = 2c ( ( 1) /2 ( /2 1) ) +a 2 2 2c ( ( 1) (/2 1)(/2 2) ) +a 2 2 = 2c ( 2 ) ) 2 /4 3/2+2 +a 2 2 = c ( ) 2 2 +a = c ( ) +a 3c 4 + c 2 +a ( c = c 4 c ) 2 a. Per termiare la prova, ovvero che T() c, occorre far vedere che possiamo sempre secgliere sufficietemete grade e c tale che (c/4 c/2 a) > 0. A tale scopo, basta scegliere c > 4a e (2c/(c 4a)). Morale della lezioe: effettuado scelte casuali all itero dell algoritmo, possiamo trasformare QuickSelect (che ha complessità Θ( 2 ) el caso peggiore) i u algoritmo di complessità Θ() el caso medio. 6