Limite Inferiore per l Ordinamento. Algoritmi e Strutture Dati (Mod. A) Limite Inferiore per l Ordinamento. Limite Inferiore per l Ordinamento

Transcript

1 Limit Ifrior pr l Ordiamto Ma quato può ssr fficit, i pricipio, u algoritmo di ordiamto? Algoritmi Struttur Dati (Mod. A) Limit Ifrior pr l Ordiamto Qusta è ua dll domad più ambizios itrssati ma ach ua dll più difficili! Limit Ifrior pr l Ordiamto Ma quato può ssr fficit, i pricipio, u algoritmo di ordiamto? La difficoltà risid l fatto ch o ci stiamo chiddo qua sia l fficiza di uo spcifico algoritmo di ordiamto, ma qual è il miimo tmpo di scuzio di u qualuqu algoritmo di ordiamto. Limit Ifrior pr l Ordiamto I gral, pr rispodr ad ua domada dl tipo qual è il modo più vloc pr sguir u compito dobbiamo dfiir prima quali strumti abbiamo a disposizio La risposta ifatti dipd i gr proprio da qusto. La risposta richidrbb quidi di cosidrar tutti i possibili algoritmi di ordiamto, ach qulli mai implmtati. Limit Ifrior pr l Ordiamto I gral, pr rispodr ad ua domada dl tipo qual è il modo più vloc pr sguir u compito dobbiamo dfiir prima quali strumti abbiamo a disposizio Nl caso dll ordiamto cosidrrmo com uico strumto il cofroto di lmti a coppi Il problma dll ordiamto può ssr risolto utilizzado solo di cofroti tra lmti Assuzio sugli lmti Suppoiamo di volr ordiar lmti K, K 2,, K Assumiamo ch tutti gli lmti siao distiti Qusto sigifica ch: pr ogi coppia di lmti K i K j, s i j allora K i K j oppur K i K j

2 Albri di Dcisio Pr aalizzar il problma ch ci siamo posti, utilizzrmo com strumto torico qullo dgli Albri di Dcisio (o Albri di Cofroto). Albri di Dcisio: smpio Siao dati tr lmti arbitrari: K, K 2, K 3 :2? Gli Albri di Dcisio ci prmttoo di rapprstar u qualsiasi algoritmo di ordiamto basato su cofroto di lmti :3? :3? K 3 K 2 K K K 3 K 2 K 3 K K 2 K 2 K 3 K Albri di Dcisio: smpio Siao dati tr lmti arbitrari: K, K 2, K 3 Nodi Itri = Cofroti :2? Albri di Dcisio: smpio Siao dati tr lmti arbitrari: Fogli = Prmutazioi K, K 2, K 3 possibili. Nodi Itri = Cofroti :2? Es.: K 3 K 2 K :3? :3? K 3 K 2 K :3? :3? K 3 K 2 K K K 3 K 2 K 3 K K 2 K 2 K 3 K K K 3 K 2 K 3 K K 2 K 2 K 3 K Albri di Dcisio L Albro di Dcisio spcifica la squza di cofroti ch l algoritmo dv ffttuar pr ordiar 3 lmti. :2? Albri di Dcisio U scuzio dll algoritmo pr u dato iput (di 3 lmti) corrispod ad u prcorso dalla radic ad ua sigola foglia. :2? :3? :3? K 3 K 2 K :3? :3? K 3 K 2 K K K 3 K 2 K 3 K K 2 K 2 K 3 K K K 3 K 2 K 3 K K 2 K 2 K 3 K 2

3 Albri di Dcisio: smpio U scuzio dll algoritmo pr u dato iput (di 3 lmti) corrispod ad u prcorso dalla radic ad ua sigola foglia. :2? :3? :3? K K 3 K 2 K 3 K K 2 K 2 K 3 K S K 2 K 3 K K 3 K 2 K Albri di Dcisio: algoritmo IF K K 2 THEN IF K 2 K 3 THEN K,K 2,K 3 ELSE {K 2 K 3 } IF K K 3 THEN K,K 3,K 2 ELSE {K K 3 } K 3,K,K 2 ELSE {K K 2 } IF K 2 K 3 THEN IF K K 3 THEN K 2,K,K 3 :2? ELSE {K K 3 } K 2,K 3,K ELSE {K 2 K 3 } K 3,K 2,K :3? :3? K K 3 K 2 K 3 K K 2 K 2 K 3 K K 3 K 2 K Albri di Dcisio Ituitivamt: ogi foglia corrispod ad u possibil risultato dll ordiamto di lmti distiti. i odi itri corrispodoo ai cofroti tra gli lmti: s il risultato è K i K j allora il sottoalbro siistro dl odo i:j coti il cofroto succssivo s il risultato è K i K j allora il sottoalbro dstro dl odo i:j coti il cofroto succssivo fiché o vi dtrmiato l ordi complto. Albri di Dcisio U albro di dcisio di ordi è u albro biario tal ch: ha! fogli, ciascua tichttata co ua divrsa prmutazio dgli lmti i odi itri hao tutti grado 2 soo tichttati co coppi di idici i:j, pr i,j =,, i u prcorso dalla radic ad ua foglia tichttata K i, K i2,, K i compar almo: o u odo i j :i j+, il prcorso procd a siistra dl odo; o u odo i j+ :i j, il prcorso procd a dstra dl odo. Albri di Dcisio Notat ch: u albro di dcisio di ordi rapprsta tutt l possibili scuzioi di u algoritmo di ordiamto co iput di dimsio ma ad ogi algoritmo di ordiamto diffrt corrispod u diffrt albro di dcisio. Albro di Dcisio di Isrt-Sort Isrt-Sort(A) FOR j=2 to Lght(A) DO Ky:=A[j] WHILE i0 AND A[i]Ky A[i+]=Ky j = 2 i = K 3 K 2 K K 3 K K 2 3

4 Albro di Dcisio di Isrt-Sort Isrt-Sort(A) FOR j=2 to Lght(A) DO Ky:=A[j] WHILE i0 AND A[i]Ky A[i+]=Ky i = 2 Albro di Dcisio di Isrt-Sort Isrt-Sort(A) FOR j=2 to Lght(A) DO Ky:=A[j] WHILE i0 AND A[i]Ky A[i+]=Ky i = 2 K 3 K 2 K K 3 K K 2 K 3 K 2 K K 3 K K 2 Albro di Dcisio di Isrt-Sort Isrt-Sort(A) FOR j=2 to Lght(A) DO Ky:=A[j] WHILE i0 AND A[i]Ky A[i+]=Ky j = 2 i = Albro di Dcisio di Isrt-Sort Isrt-Sort(A) FOR j=2 to Lght(A) DO Ky:=A[j] WHILE i0 AND A[i]Ky A[i+]=Ky i = K 3 K 2 K K 3 K K 2 K 3 K 2 K K 3 K K 2 Albro di Dcisio di Isrt-Sort Isrt-Sort(A) FOR j=2 to Lght(A) DO Ky:=A[j] WHILE i0 AND A[i]Ky A[i+]=Ky i = Albro di Dcisio di Isrt-Sort Isrt-Sort(A) FOR j=2 to Lght(A) DO Ky:=A[j] WHILE i0 AND A[i]Ky A[i+]=Ky i = K 3 K 2 K K 3 K K 2 K 3 K 2 K K 3 K K 2 4

5 Albro di Dcisio di Isrt-Sort Isrt-Sort(A) FOR j=2 to Lght(A) DO Ky:=A[j] WHILE i0 AND A[i]Ky A[i+]=Ky i = Albro di Dcisio di Isrt-Sort Isrt-Sort(A) FOR j=2 to Lght(A) DO Ky:=A[j] WHILE i0 AND A[i]Ky A[i+]=Ky i = K 3 K 2 K K 3 K K 2 K 3 K 2 K K 3 K K 2 Albri di Dcisio É importat quidi capir ch: u odo tichttato i:j ll albro di dcisio spcifica u cofroto tra gli lmti K i K j scodo la loro posizio ll array iizial NON gli lmti ch ad u crto puto dll scuzio compaioo ll posizioi i- sima j-sima dll array gli albri di dcisio o mzioao alcuo spostamto dgli lmti Limit Ifrior pr il Caso Pggior Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso pggior Ituitivamt, il umro massimo di cofroti ch dv ssr ffttuato da u algoritmo di ordiamto sarà pari all altzza dl suo albro di dcisio. Il miglior algoritmo di dcisio possibil, sarà qullo il cui albro di dcisio ha altzza miima tra tutti gli albri di dcisio possibili. Limit Ifrior pr il Caso Pggior Lmma: Ogi albro di dcisio ch ordia lmti ha altzza Ω( log ) Sia T u albro di dcisio di altzza h ch ordia lmti. Ci soo! possibili prmutazioi di lmti, ogua dll quali è u possibil ordiamto. L albro di dcisio avrà quidi! fogli. Limit Ifrior pr il Caso Pggior Lmma: Ogi albro di dcisio ch ordia lmti ha altzza Ω( log ) Sia T u albro di dcisio di altzza h ch ordia lmti. L albro di dcisio avrà quidi! fogli. Ma ogi albro biario di altzza h ha o più di 2 h fogli. Quidi dv ssr:! 2 h 5

6 Limit Ifrior pr il Caso Pggior Lmma: Ogi albro di dcisio ch ordia lmti ha altzza Ω( log ) Sia T u albro di dcisio di altzza h ch ordia lmti. Limit Ifrior pr il Caso Pggior Lmma: Ogi albro di dcisio ch ordia lmti ha altzza Ω( log ) Sia T u albro di dcisio di altzza h ch ordia lmti. Quidi dv ssr:! 2 h Quidi dv ssr: log! h Prddo il logaritmo di trambi i mmbri, poiché trmbi soo fuzioi crscti mooto, ottiamo: log! h Pr l approssimazio di Stirlig abbiamo ch:! = Limit Ifrior pr il Caso Pggior Lmma: Ogi albro di dcisio ch ordia lmti ha altzza Ω( log ) Sia T u albro di dcisio di altzza h ch ordia lmti. Quidi dv ssr: Ottiamo ch! log! h h log Limit Ifrior pr il Caso Pggior Lmma: Ogi albro di dcisio ch ordia lmti ha altzza Ω( log ) Sia T u albro di dcisio di altzza h ch ordia lmti. Ottiamo ch! h log log Limit Ifrior pr il Caso Pggior Lmma: Ogi albro di dcisio ch ordia lmti ha altzza Ω( log ) Sia T u albro di dcisio di altzza h ch ordia lmti. Ottiamo ch! h log log log log Limit Ifrior pr il Caso Pggior Lmma: Ogi albro di dcisio ch ordia lmti ha altzza Ω( log ) Sia T u albro di dcisio di altzza h ch ordia lmti. Ottiamo ch! h log log log log = Ω( log ) 6

7 Limit Ifrior pr il Caso Pggior Corollario: HapSort MrgSort soo algorimi di ordiamto pr cofroto asitoticamt ottimi l caso pggior. Limit Ifrior pr il Caso Pggior Corollario: HapSort MrgSort soo algorimi di ordiamto pr cofroto asitoticamt ottimi l caso pggior. Abbiamo già calcolato ch il limit suprior dl tmpo di scuzio l caso pggior di trambi gli algoritmi è O(log). Ma qusto limit corrispod sattamt a limit ifrior Ω(log) appa calcolato pr il caso pggior. Da qust du ossrvazioi sgu il corollario! Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Prcorso Estro di u Albro Biario Prcorso Estro di u Albro Biario Prcorso Estro di u Albro Biario Prcorso Estro = Somma di prcorsi dalla radic a ciascua foglia Prcorso Estro = Somma 0 di prcorsi dalla radic a ciascua foglia Prcorso Estro = 6 7

8 Prcorso Estro di u Albro Biario Prcorso Estro = 7 Prcorso Estro = Somma di prcorsi dalla radic a ciascua foglia Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Assumiamo ch ogi prmutazio iizial di lmti i iput abbia ugual probabilità. Cosidriamo u albro di dcisio di ordi Il miimo umro mdio di cofroti cssari pr l algoritmo di ordiamto è quidi pari alla lughzza dl prcorso stro diviso pr il umro di fogli dll albro. Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Il miimo umro mdio di cofroti è pari alla lughzza dl prcorso stro diviso pr il umro di fogli dll albro. FATTO: L albro ch miimizza il prcorso stro è qullo i cui tutt l fogli occorroo al più sui du livlli h h -, pr qualch h. Prcorso Estro Miimo FATTO: L albro ch miimizza il prcorso stro è qullo i cui tutt l fogli occorroo al più sui du livlli h h -, pr qualch h Prcorso Estro = k Prcorso Estro = k-h+(h+)=k+ Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Il miimo umro mdio di cofroti è pari alla lughzza dl prcorso stro diviso pr il umro di fogli dll albro. FATTO: L albro ch miimizza il prcorso stro è qullo i cui tutt l fogli occorroo al più sui du livlli h h -, pr qualch h. Siao N h N h - il umro di fogli ai livlli h h - Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Il miimo umro mdio di cofroti è pari alla lughzza dl prcorso stro diviso pr il umro di fogli dll albro. Siao N h N h - il umro di fogli ai livlli h h - Il umro mdio di cofroti ll albro sarà quidi C = [(h - )N h- + hn h ] /! 8

9 Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Siao N h N h - il umro di fogli ai livlli h h - Il umro mdio di cofroti ll albro sarà quidi C = [(h-)n h- + hn h ]/! Ma sappiamo ach ch N h- + N h =! 2N h- + N h = 2 h Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Siao N h N h - il umro di fogli ai livlli h h - Poichè u albro Il umro mdio di cofroti pio ll albro alto h ha 2sarà h quidi fogli ogi odo itro ha grado du C = [(h-)n h- + hn h ]/ (cioè! ha 2 figli) Ma sappiamo ach ch N h- + N h =! 2N h- + N h = 2 h Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Siao N h N h - il umro di fogli ai livlli h h - Il umro mdio di cofroti ll albro sarà quidi C = [(h-)n h- + hn h ]/! Quidi: N h- + N h =! 2N h- + N h = 2 h N h = 2! - 2 h N h- = 2 h -! Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Il umro mdio di cofroti ll albro sarà quidi C = [(h-)n h- + hn h ]/! Quidi: N h = 2! - 2 h Sostitudo: N h- + N h =! 2N h- + N h = 2 h N h- = 2 h -! C = (h! +! - 2 h )/! Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Sostitudo: C = (h! +! - 2 h )/! Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Sostitudo: C = (h! +! - 2 h )/! Ma h = log! = log! + ε pr 0 ε quidi Ma h = log! = log! + ε pr 0 ε quidi C = (! log! +! ε +! -! 2 ε )/! C = (! log! +! ε +! -! 2 ε )/! = log! + ( + ε - 2 ε ) 9

10 Limit Ifrior pr il Caso Mdio Torma: Il umro miimo di cofroti ch u algoritmo di ordiamto dv ffttuar è Ω(log) l caso mdio Sostitudo: C = (h! +! - 2 h )/! Ma h = log! = log! + ε pr 0 ε quidi C = (! log! +! ε +! -! 2 ε )/! = log! + ( + ε - 2 ε ) log! = log - log = Ω( log ) Limit Ifrior pr il Caso Mdio Corollario: HapSort MrgSort soo algorimi di ordiamto pr cofroto asitoticamt ottimi. Abbiamo già calcolato ch il limit suprior dl tmpo di scuzio mdio di trambi gli algoritmi è O(log). Ma qusto limit corrispod sattamt a limit ifrior Ω(log) appa calcolato pr il caso mdio. Da qust du ossrvazioi sgu il corollario! 0