Algoritmi e Strutture Dati

Transcript

1 Algoritmi e Strttre Dati Itrodzioe Adetes frta ivat - Virgilio Se o sapete qale strada predere, fate a scelta casale Capitolo 7 - Algoritmi probabilistici Alberto Motresor Uiversità di Treto This work is licesed der the Creative Commos Attribtio-NoCommercial-ShareAlike Licese. To view a copy of this licese, visit or sed a letter to Creative Commos, 543 Howard Street, 5th Floor, Sa Fracisco, Califoria, 9405, USA. Abbiamo già icotrato il cocetto di casalità Aalisi del caso medio - si calcola a media s ttti i possibili dati di igresso, dopo aver idividato a distribzioe di probabilità per essi Esempio: caso medio Qicksort, si assme che ttte le permtazioi siao eqiprobabili Negli algoritmi probabilistici Il calcolo delle probabilità è applicato o ai dati di ipt, ma ai dati di otpt De possibilità Algoritmi corretti, il ci tempo di fzioameto è probabilistico Algoritmo la ci correttezza è probabilistica Esempio - espressioe poliomiale lla Statistica Defiizioe: data espressioe algebrica poliomiale p(x,..., x) i variabili, determiare se p è ideticamete lla oppre o Algoritmi statistici s vettori: Estraggoo da vettore merico alce caratteristiche statisticamete rilevati Discssioe Esempi Assmiamo che o sia i forma di moomi - altrimeti è baale Gli algoritmi basati s semplificazioi soo molto complessi Algoritmo Si geera a -pla di valori v,..., v Media: µ = (A[] + A[] A[])/ Variaza (sample variace): Moda: il valore più freqete (o i valori) = (A[i] µ) Mediao: il valore che occperebbe la posizioe / se l'array fosse ordiato i= Si calcola x= p(v,..., v) Se x 0, p o è ideticamete llo Se x = 0, p potrebbe essere ideticamete llo Selezioe: Dato array A[..] di valori distiti e valore k, trovare l'elemeto che è maggiore di esattamete k- elemeti Se vi = radom(, d), dove d è il grado massimo del poliomio, allora la probabilità di errore o spera /. Si ripete k volte, ridcedo la probabilità di errore a (/) k 3 4

2 Selezioe: casi particolari Selezioe: casi particolari Ricerca del miimo, massimo T() = - = θ() cofroti Possiamo dimostrare che qesto algoritmo è ottimale? Idea: scelta del miimo come toreo Ttti gli elemeti (trae il vicitore) deve perdere almeo partita Qidi il problema è Ω() ITEM mi(item[]a, iteger ) ITEM mi A[] for iteger i to do if A[i] < mi the mi A[i] retr mi Ricerca del secodo miimo Trovare il secodo elemeto più piccolo dell'array Domada: Aalisi del caso peggiore e medio ITEM mi(item[]a, iteger ) ITEM mi A[] ITEM mi A[] if mi < mi the mi mi for iteger i 3 to do if A[i] < mi the mi A[i] if mi < mi the mi mi retr mi 5 6 Selezioe: casi particolari Selezioe per piccoli valori di k Ricerca del secodo miimo L'albero del toreo permette di trovare il secodo miimo i O( + log ) cofroti el caso pessimo Dimostrazioe passi ecessari per la ricerca del miimo Siao M e S il miimo e il secodo miimo Sicramete c'è stato icotro fra M e S, dove M ha vito Se così o fosse, esisterebbe valore X<S che ha battto S assrdo dalla defiizioe di S Qidi, basta cercare ei log valori battti direttamete da M per trovare il secodo miimo. Totale: O( + log ) Itizioe L'albero del toreo pò essere simlato da o heap L'algoritmo pò essere geeralizzato a valori geerici di k > Complessità comptazioale: O( + k log ) Se k = O(/log ), il costo è O() No va acora bee per k = / Codice heapselect(item[] A, iteger, iteger k) bildheap(a) for i := to k- do deletemi(a, ) retr mi(a) 7 8

3 Selezioe Complessità Idea Approccio divide-et-impera simile al Qicksort Ma essedo problema di ricerca, o è ecessario cercare i etrambe le partizioi, basta cercare i a sola di esse ITEM selezioe(item[]a, iteger primo, iteger ltimo, iteger k) if primo = ltimo the retr A[primo] iteger j pero(a, primo, ltimo) iteger q j primo + if k = q the retr A[j] if k<qthe retr selezioe(a, primo,j,k) retr selezioe(a, j +, ltimo, k q) primo j ltimo q Caso pessimo: O( ) Caso ottimo: O() Caso medio Assmiamo che pero() restitisca co la stessa probabilità a qalsiasi posizioe j del vettore A T () =0, per =0, T () = + T (max{q, q}) apple + q= q=b/c T (q), per caso sia pari, è facile vedere che i valori b c b c ve 9 0 Dimostrazioe Versioe probabilistica Per sostitzioe Siamo partiti dall asszioe apple T ( 0 ) apple c 0, 8 0 < apple T () apple = + c + c q=b/c ( ) q apple + c q q= b/c (b/c ) b/c X q= qa j assme eqiprobabilisticamete ttti i valori compresi fra e E se o è vero? Lo forziamo oi A[radom(primo, ltimo)] A[primo] Qesto accorgimeto vale ache per QickSort apple + c ( ) (/ + ) (/) = + c ( ) (c/) (/ + ) = + c c c/4 c/ = c c oiché l ltima qatità tra paretesi è miore di per sfficietemete grade e per

4 Selezioe i tempo pessimo lieare Selezioe i tempo pessimo lieare Algoritmo determiistico Se cooscessi tale algoritmo Determiistico: o ecessita di radomizzazioe il problema della selezioe sarebbe qidi risolto Algoritmo complesso, co fattori coivolti molto alti... ma dove lo trovo simile algoritmo? Iteressate dal pto di vista della tecica Rilassiamo le ostre pretese Svilppiamo l'idea Sppoiamo di avere algoritmo black box che mi ritori il mediao di valori i tempo O() Domada Potrei tilizzarlo per ottimizzare il problema della selezioe? Che complessità otterrei? Sppoiamo di avere algoritmo black box che mi ritori valore che dista al più /4 dal mediao (ell'ordiameto) Domada Potrei tilizzarlo per ottimizzare il problema della selezioe? Che complessità otterrei? U algoritmo del geere esiste! 3 4 Selezioe determiistica - cei Selezioe determiistica L'idea dell'algoritmo Sddividi i valori i grppi di 5. Chiameremo l'i-esimo grppo Si, co i [, /5 ] Trova il mediao mi di ogi grppo Si Tramite a chiamata ricorsiva, trova il mediao M dei mediai mi Usa M come pivot e richiama l'algoritmo ricorsivamete sll'array opporto, come ella selezioe() radomizzata Caso base Possiamo tilizzare algoritmo d'ordiameto per trovare il mediao qado la dimesioe scede sotto a certa soglia ITEM select(item[]a, iteger primo, iteger ltimo, iteger k) % Se la dimesioe è iferiore ad a soglia (0), ordia il vettore e % restitisci il k-esimo elemeto di A[primo...ltimo] if ltimo primo +apple 0 the IsertioSort(A, primo, ltimo) % Versioe co idici iizio/fie retr A[primo + k ] % Divide A i d/5e sottovettori di dim. 5 e calcola la mediaa di ogo di essi M ew iteger[...d/5e] for i to d/5e do M[i] media5(a, primo +(i ) 5, ltimo) % Idivida la mediaa delle mediae e sala come pero 5 6

5 Selezioe determiistica d e % Idivida la mediaa delle mediae e sala come pero ITEM m select(m,, d/5e, dd/5e/e) iteger j pero(a, primo, ltimo,m) % Versioe co m i ipt % Calcola l idice q di m i [primo...ltimo] % Cofroto q co l idice cercato e ritora il valore cosegete iteger q j primo + if q = k the retr m if q<kthe retr select(a, primo,q,k) retr select(a, q +, ltimo,k q) Selezioa determiistica - cei Lemma Lemma Il calcolo dei mediai M[] richiede al più 6 /5 cofroti. La prima chiamata ricorsiva dell'algoritmo select() viee effettata s circa /5 Lemma 3 (esattamete /5 ) elemeti La secoda chiamata ricorsiva dell'algoritmo select() viee effettata al massimo s 7/0 elemeti (esattamete - 3 /5 / ) Teorema L'algoritmo select() esege el caso pessimo O() cofroti Eqazioe di ricorreza: T() T(/5) + T(7/0) + /5 E' possibile dimostrare che T() = O() 7 8 Alce ote storiche Bcket sort Il problema della selezioe ella storia... Ipotesi sll'ipt Nel 883 Lewis Carroll (!) otò che il secodo premio ei torei di teis o veiva assegato i maiera eqa. I valori da ordiare soo meri reali iformemete distribiti ell'itervallo [0, ) Nel 93, Schreier dimostrò che + log - icotri soo sempre sfficieti per trovare il secodo posto Qalqe isieme di valori distribiti iformemete pò essere ormalizzato ell'itervallo [0, ) Nel 973, a opera di Blm, Floyd, Pratt, Rivest e Tarja, appare il primo algoritmo determiistico Idea Dividere l'itervallo i sottoitervalli di dimesioe /, detti bcket, e poi distribire gli meri ei bcket Per l'ipotesi di iformità, il mero atteso di valori ei bcket è I sigoli bcket possoo essere ordiati co Isertio Sort