Universita' di Ferrara Dipartimento di Matematica e Informatica. Algoritmi e Strutture Dati. Rappresentazione concreta di insiemi e Hash table

Transcript

1 Universita' di Ferrara Dipartimento di Matematica e Informatica Algoritmi e Strutture Dati Rappresentazione concreta di insiemi e Hash table Copyright by Claudio Salati. Lez. 9a 1 Rappresentazione concreta di insiemi Si e' visto che sono possibili diverse rappresentazioni concrete per realizzare insiemi di valori omogenei (dello stesso tipo): liste vettori alberi Diverse rappresentazioni concrete consentono di realizzare modalita' di accesso all'insieme (operazioni) piu' o meno efficienti Operazioni tra insiemi ed elementi (e.g. inserire/eliminare) Operazioni su insiemi (e.g. unione/intersezione) Spesso, per realizzare operazioni di accesso all'insieme efficienti, e' necessario mantenere l'insieme ordinato e.g., cio consente, in un vettore o in un albero binario, di verificare la presenza di un elemento nell'insieme in tempo O(log(n)) Naturalmente mantenere l'insieme ordinato ha un costo in una lista il costo dell'inserimento ordinato e' O(n) mentre quello del semplice inserimento non disciplinato e' O(1) 2 1

2 Il tipo Unix fd_set.1 In Unix i file descriptor, che rappresentano le handle di accesso alle risorse del sistema da parte di un processo, sono rappresentati come interi non negativi di piccole dimensioni (small, non-negative integer). Il valore massimo che puo assumere un file descriptor e cambiato nel tempo, e in questo momento e di Cio consente ad un processo di accedere ad un massimo di 1024 risorse contemporaneamente. L universo U dei file descriptor e costituito dall insieme { Ci sono alcune system call (e.g. la system call select()) che possono operare simultaneamente su piu file descriptor. Per consentire cio Unix prevede di passare loro come argomento un insieme di file descriptor, e per fare cio definisce il tipo di dato 3 astratto fd_set. Il tipo Unix fd_set.2 Gli oggetti di tipo fd_set possono essere manipolati tramite le seguenti operazioni: void FD_ZERO(fd_set *fdset); azzera fdset, e quindi rende vuoto il set. void FD_SET(int fd, fd_set *fdset); inserisce il file descriptor (di numero) fd nel set fdset. void FD_CLR(int fd, fd_set *fdset); elimina il file descriptor (di numero) fd dal set fdset. int FD_ISSET(int fd, fd_set *fdset); verifica se il file descriptor (di numero) fd e' presente (valore ritornato!=0) o no (valore ritornato ==0) nel set fdset. Oltre a queste operazioni possiamo pensare anche a operazioni di intersezione e unione di insiemi, e al complemento di un insieme rispetto all universo (vedi esercizi). 4 2

3 Il tipo Unix fd_set.3 La rappresentazione concreta Unix del tipo fd_set e costituita da un array di bit, tanti quanto e grande l universo U dei file descriptor L elemento (il bit) k dell array e associato all elemento k di U: se k e presente nell insieme il valore del bit corrispondente e 1 se k non e presente nell insieme il valore del bit corrispondente e 0 Le operazioni su fd_set sono realizzate concretamente tramite gli operatori binari <<,, &, eventualmente manipolando contemporaneamente un intero gruppo di bit, e.g. i bit che fanno parte di un unsigned long long Gli operatori binari e & operano parallelamente su tutti i bit di una parola di memoria: per una macchina a 64 bit, su 64 bit per volta Per implementare l operazione di unione/intersezione su insiemi basati su un universo di 1024 elementi sono percio necessarie 16 operazioni elementari 5 Il tipo Unix fd_set.4 La complessita delle operazioni su fd_set e la seguente: FD_ZERO, come unione e intersezione di fd_set, e formalmente lineare nel numero di elementi dell universo (non nel numero di elementi contenuti nell insieme!), ma in pratica, per come queste operazioni sono implementate, esse possono essere considerate di complessita O(1) (sono costituite di un numero fisso e molto limitato di operazioni, attualmente 16). FD_SET, FD_CLR, FD_ISSET sono di complessita O(1). Di complessita effettivamente lineare nel numero di elementi di U sono invece operazioni come la ricerca dell elemento minimo o massimo di un insieme, la ricerca dell elemento precedente o di quello successivo di un elemento dato. 6 3

4 Il tipo Unix fd_set: implementazione inline void FD_SET(unsigned long fd, kernel_fd_set *fdsetp) { unsigned long _tmp = fd / NFDBITS; unsigned long _rem = fd % NFDBITS; fdsetp->fds_bits[_tmp] = (1UL<<_rem); inline void FD_CLR(unsigned long fd, kernel_fd_set *fdsetp) { unsigned long _tmp = fd / NFDBITS; unsigned long _rem = fd % NFDBITS; fdsetp->fds_bits[_tmp] &= ~(1UL<<_rem); inline int FD_ISSET(unsigned long fd, kernel_fd_set *p) { unsigned long _tmp = fd / NFDBITS; unsigned long _rem = fd % NFDBITS; return (p->fds_bits[_tmp] & (1UL<<_rem))!= 0; 7 Tabelle hash Una tabella hash consente di rappresentare insiemi (anche di elementi non ordinabili) realizzando operazioni di inserimento di un elemento verifica di presenza/assenza di un elemento rimozione di un elemento (con qualche attenzione) in tempo O(1) (quasi) Non sono convenientemente supportate operazioni come: ricerca dell'elemento minimo o di quello massimo ricerca dell'elemento successivo ad un elemento dato unione /intersezione Applicazioni: tavole simboli servizi di directory ricezione di messaggi duplicati o corrotti 8 4

5 Tabelle hash e fd_set In un albero in-ordine che rappresenta un insieme la ricerca di un elemento avviene tramite una successione di confronti. Si e visto pero che e possibile ordinare senza confronti, per distribuzione. La rappresentazione concreta a stringa di bit (tipo Unix fd_set) per un insieme di numeri naturali di piccole dimensioni si basa sul principio di distribuzione. Questa rappresentazione concreta ha pero una complessita spaziale che e proporzionale non al numero di elementi presenti nell insieme ma alle dimensioni dell universo dal quale sono tratti gli elementi dell insieme. Questa rappresentazione concreta e quindi utilizzabile come tale solo per universi di dimensioni molto limitate. Sarebbe possibile utilizzare il principio di distribuzione anche nel caso di universi grandi o infiniti, ma con una complessita spaziale molto minore, piu vicina alla cardinalita del singolo insieme che a quella dell universo stesso? 9 Tabelle hash In una rappresentazione a stringa di bit la locazione nella stringa del bit corrispondente all elemento x e identificata dal valore stesso di x In una tabella hash (HT) la locazione dell'elemento x nella tabella e' identificata tramite il calcolo di una opportuna funzione hash(x) che dice a quale indice si dovrebbe trovare l'elemento L'elemento x deve essere inserito nella HT all'indice hash(x) Se l'elemento x e' presente nella HT, esso si trova all'indice hash(x) Da cio' discende che una HT deve essere costituita da una struttura contigua di memoria indicizzabile (un array di celle, o bucket) e accedibile in modo random Una HT e' costituita da b bucket consecutivi Ogni bucket della HT puo' in generale contenere s elementi, con s 1 Il numero s puo' essere limitato a priori o illimitato 10 5

6 Dimensioni e loro relazioni Perche' si considera che debba/possa essere s>1? La funzione hash() mappa l'insieme di tutti i possibili elementi dell'universo U considerato (e.g. gli identificatori utilizzabili in un programma C) sul range di interi 0..b-1 Sia #U la dimensione dell universo. Di norma: #U e' molto grande, o addirittura infinito Il numero n di elementi di U effettivamente considerati ogni volta e' molto minore di #U (#U >> n) #U >> b (conseguenza dei punti precedenti) Quindi, su uno stesso bucket della HT, la funzione hash() mappa molti (anche ) elementi di U Notazione: il rapporto n / #U e' chiamato densita' degli elementi il rapporto α = n / (s*b) e' chiamato densita' o fattore di carico della tabella in caso s sia illimitato si definisce α = n / b 11 Collisione e overflow Poiche' #U>>b la funzione hash() sara' necessariamente tale da mappare molti elementi di U su uno stesso bucket. Due elementi i1 e i2 tali per cui hash(i1)=hash(i2) sono detti essere sinonimi. Non si puo' ovviamente forzare nessuna disciplina che impedisca l'utilizzo di elementi sinonimi. In effetti di norma non e nemmeno possibile sapere a priori se due elementi sono sinonimi. Quando capita effettivamente che due elementi utilizzati siano mappati sullo stesso bucket si dice che c'e' stata una collisione. In caso di collisione gli elementi possono essere comunque registrati nel bucket purche' il loro numero non ecceda s. Nel caso piu' di s elementi effettivamente utilizzati siano mappati su uno stesso bucket si dice che c'e' stato overflow. Ovviamente, perche' ci possa essere overflow, s non deve essere illimitato. Se s=1 c'e' overflow tutte le volte che c'e' collisione. 12 6

7 Requisiti per un accesso efficiente Perche l'accesso ad una HT sia efficiente bisogna che il numero di collisioni sia limitato. infatti se ci sono molte collisioni su un bucket, quando cerco un elemento in quel bucket non mi basta un semplice confronto. le operazioni non sono piu O(1)! quello che vorremmo e una associazione biunivoca elementi dell insieme bucket! se anche s e' molto grande o illimitato, il fattore di carico della tabella deve essere contenuto. infatti, se il fattore di carico e elevato, e piu' probabile che ci siano collisioni (se n>b c e almeno una collisione!). la funzione hash() deve essere tale da minimizzare la probabilita' di collisione a parita di fattore di carico. ma dato che il rapporto b/#u e di solito molto piccolo e chiaro che non e possibile garantire che non ci siano collisioni. la funzione hash() deve anche essere semplice da calcolare. 13 Funzione hash() La funzione hash() deve avere le seguenti proprieta': dipendere dall'intero valore dell'elemento e non solo da una sua parte. e.g. se gli elementi sono identificatori, non deve dipendere solo dai primi o dagli ultimi caratteri ma da tutta la stringa. se x e' un elemento a caso di U allora la probabilita' che hash(x)=k deve essere 1/b per tutti i b bucket della HT. in questo modo ogni elemento x di U ha uguale probabilita' di essere mappato su ciascuno dei b bucket della HT. una funzione hash che abbia questa proprieta' e' detta essere uniforme. Esistono diverse funzioni hash ben definite: MD4, MD5 (RFC 1321) e SHA-1 (NIST - FIPS PUB 180) utilizzati nella network security funzioni non-standard piu' semplici basate su XOR (o somma), modulo di numeri primi, quadrati,

8 Funzione hash() e dimensioni della tabella Fra funzione hash() e dimensione b della tabella c'e' evidentemente una relazione, dato che la funzione hash() deve ritornare un intero k tale che 0 k<b. Le proprieta' computazionali della funzione hash() possono quindi imporre dei limiti sul valore di b. se hash(x) = x % b, allora e' conveniente che b sia un numero primo se fosse una potenza di 2 l'operazione di modulo equivarrebbe a considerare solo i bit piu' leggeri di x se hash(x) = x 2 / 2 m % 2 k, allora b = 2 k, cioe' b risulta essere una potenza di 2 Esercizio: come e fatto x 2 / 2 m % 2 k? 15 Gestione dell'overflow: linear open addressing In ogni caso (salvo che nel caso s sia illimitato) deve essere definita una politica per la gestione della condizione di overflow. Consideriamo il caso s limitato, e per comodita' consideriamo s=1. Una prima condizione per riconoscere l'evento di collisione/ overflow e' che un bucket/slot sia riconoscibile come (non) vuoto: si assume che questo sia possibile. In caso di collisione nell'inserire l'elemento x la politica di linear open addressing specifica: 1. Si cerca sequenzialmente e circolarmente nella HT, a partire da hash(x), il primo bucket vuoto. 2. Li' si inserisce x. 3. Se non si riesce a trovare un bucket vuoto prima di ri-scandire circolarmente il bucket hash(x) cio' significa che la HT e' piena e non piu' utilizzabile. 16 8

9 Gestione dell'overflow: linear open addressing Come e, nel caso si utilizzi la politica linear open addressing, l algoritmo di ricerca di un elemento nella HT? elemento HT[b]; boolean HTcontains(elemento e) { int basescan = hash(e); if (isempty(ht[basescan]) return (FALSE); else if (HT[baseScan]==e) return (TRUE); else { for (int scan = (basescan+1) % b; scan!=basescan; scan = (scan+1) % b) { if (isempty(ht[scan])) return (FALSE); if (HT[scan]==e) return (TRUE); return (FALSE); 17 Gestione dell'overflow: linear open addressing Quando si utilizza per la gestione della condizione di overflow la politica linear open addressing, nella HT tendono a formarsi gruppi (cluster) di elementi. I gruppi di elementi tendono anche ad auto-alimentarsi e a fondersi tra di loro, cosi' che il numero di confronti eseguiti dalla funzione di ricerca tende a crescere. Il numero di confronti necessario a verificare la presenza di un elemento non e' piu' quindi O(1) come desiderato. In effetti risulta che il numero medio atteso di confronti tra elementi per verificare la presenza di un elemento (che e effettivamente presente) e': 2 α 2 2 * α Questo nell'ipotesi di scelta casuale degli elementi che sono presenti nella HT e di uniformita' della funzione hash. Non solo la complessita' media e' elevata; il caso peggiore e' O(n)! 18 9

10 Gestione dell'overflow: linear open addressing Sono stati utilizzati vari metodi per cercare di risolvere i problemi del linear open addressing pur continuando a gestire l'overflow all'interno della HT: quadratic probing: anziche' inserire/cercare in bucket consecutivi si cerca in bucket distanziati successivamente di k 2 in modo da limitare il fenomeno del raggruppamento. rehashing: i bucket successivi sono cercati utilizzando una sequenza di diverse funzioni hash. La politica di open addressing presenta anche un altro problema: Come e' possibile cancellare elementi dalla HT? E' evidente che non e' sufficiente dichiarare empty un bucket: quel bucket potrebbe essere stato "saltato" perche' pieno durante l'inserzione con overflow di un altro elemento, e settarlo vuoto farebbe fallire la funzione HTcontains() definita prima. 19 Gestione delle collisioni: chaining o external clash list Il problema fondamentale della politica di open addressing e' che la ricerca di un elemento puo' implicare il coinvolgimento anche di elementi che non sono sinonimi di quello cercato. Questo problema viene eliminato se creiamo bucket di dimensione s illimitata. Questo puo' essere fatto facilmente realizzando il bucket tramite una lista (chaining o external clash list): un bucket della HT e' effettivamente costituito solo della testata della lista degli elementi sinonimi mappati su quel bucket. Nella ricerca di un elemento e' necessario confrontarlo solo con gli elementi che sono contenuti nel bucket su cui esso e' mappato dalla funzione hash (cioe solo con elementi che sono suoi sinonimi). L'inserimento nella lista del bucket non richiede alcuna speciale disciplina: la lista puo essere una lista LIFO semplicemente linkata

11 Gestione delle collisioni: chaining o external clash list In questo caso il numero medio atteso di confronti tra elementi per verificare la presenza di un elemento risulta essere (nell'ipotesi di scelta casuale degli elementi che sono presenti nella HT e di uniformita' della funzione hash): per un elemento presente in tabella: per un elemento non presente in tabella: dove, come gia' detto, e' α=n/b. 1+ α 2 α (infatti in ogni lista sono presenti in media α elementi, che devono essere scanditi tutti nel caso di elemento non presente in tabella, in media solo meta' nel caso di elementi presenti in tabella) Nota che un ulteriore vantaggio di questo metodo e' che, e' vero che richiede l'allocazione dei link per la gestione delle liste, ma richiede l'allocazione all'interno della HT solo delle testate di lista, in genere di dimensione molto minore di quella degli elementi. Anche l'operazione di cancellazione non presenta difficolta'