determinare la complessitá di I/O e il work dell algoritmo in funzione di N = n 2, M, B considerando che una entry corrisponde ad una parola.

Transcript

1 Corso: Gestione ed elaborazione grandi moli di dati Lezione del: 22 maggio 2006 Argomento: Esercizio: moltiplicazione di matrici (EM, Indexing Scribes: Antonio arbalace, Paolo Repele, Federico Wegher 1 Esercizio Testo Date due matrici quadrate, X e Y, di taglia = n 2 si desidera: scrivere l algoritmo in pseudocodice che effettui il prodotto delle due matrici, X Y = Z, per il Disk Model assumendo che all inizio X, Y e Z siano scritte su disco in row major. determinare la complessitá di I/O e il work dell algoritmo in funzione di = n 2, M, considerando che una entry corrisponde ad una parola. Soluzione Il prodotto righe per colonne tra matrici quadrate pu agevolmente essere risolto in modo ricorsivo, infatti date le tre matrici: [ ] [ ] [ ] x 1 x 2 y 1 y 2 z 1 z 2 X = Y = Z = x 3 x 4 y 3 y 4 z 3 z 4 vale la seguente relazione: [ ] [ x 1 x 2 y 1 y 2 Z = x 3 x 4 y 3 y 4 ] = [ z 1 z 2 z 3 z 4 ] = [ x 1 y 1 + x 2 y 3 x 1 y 2 + x 2 y 4 x 3 y 1 + x 4 y 3 x 3 y 2 + x 4 y 4 ] dove X, Y e Z sono state divise in quattro sottomatrici quadrate n 2 n 2. Ció ci permette quindi di dividire il problema in sottoproblemi piú piccoli, e la ricombinazione di questi ci permette di ottenere la soluzione finale. Per comoditá, definiamo z i1 e z i2, rispettivamente, il primo e il secondo addendo della somma z i per i = 1, 2, 3, 4, cioé: [ ] [ ] z 1 z 2 z 11 + z 12 z 21 + z 22 Z = = z 3 z 4 z 31 + z 32 z 41 + z 42 Ove: z 11 = x 1 y 1 z 12 = x 2 y 3 z 21 = x 1 y 2 1

2 z 22 = x 2 y 4 z 31 = x 3 y 1 z 32 = x 4 y 3 z 41 = x 3 y 2 z 42 = x 4 y 4 Determinato l approccio con cui affrontare il problema, occorre considerare che stiamo operando con il modello di calcolo External Memory e quindi le matrici X, Y e Z sono memorizzate su disco in row major. Per minimizzare il numero di trasferimenti di blocchi dal disco alla RAM, una volta suddiviso il problema, occorre scrivere le matrici X e Y su disco in modo che le singole sottomatrici x 1, x 2, x 3, x 4 e y 1, y 2, y 3, y 4 siano scritte in row major. É quindi necessario effettuare una permutazione su ciascuna matrice X e Y in modo che ogni quadrante sia scritto in row major (vedi figure 1. (a (b Figure 1: La linea verde rappresenta i dati come sequenzialmente sono scritti su disco: (a matrice su disco in row major, (b matrice su disco dopo la permutazione: ogni sottomatrice é in row-major su disco; le sottomatrici su disco sono una di seguito all altra. Una volta effettuata la permutazione su entrambe le matrici X e Y si possono risolvere gli 8 sottoproblemi, questi daranno luogo ad una matrice i cui elementi non sono in row major é necessario, perció, applicare alla matrice Z una permutazione inversa a quella su descritta. Segue quindi lo pseudocodice. EM-MatrixMult(X,Y,Z X + Y IF ( M THE risolvi il problema interamente in RAM ; ELSE { permuta X e Y affinché le sottomatrici x i e y i (1 i 4 siano memorizzate su disco in 2

3 row major EM-MatrixMult(x 1,y 1,z 11 ; EM-MatrixMult(x 2,y 3,z 12 ; EM-MatrixMult(x 1,y 2,z 21 ; EM-MatrixMult(x 2,y 4,z 22 ; EM-MatrixMult(x 3,y 1,z 31 ; EM-MatrixMult(x 4,y 3,z 32 ; EM-MatrixMult(x 3,y 2,z 41 ; EM-MatrixMult(x 4,y 4,z 42 ; } FOR i 1 TO 4 DO z i z i1 + z i2 permuta le righe di z 1,z 2,z 3,z 4 in modo che Z sia scritta su disco in row major Analisi delle complessitá di I/O Dato che l algoritmo é ricorsivo, per determinarne la complessitá d I/O scriveremo la seguente relazione di ricorrenza. { Θ ( T (, M, = M 8 T ( 4, M, + Θ ( > M La complessitá di I/O nel caso base é lineare ed é dovuta al trasferimento di X e Y in RAM e di Z su disco. Per quanto riguarda la composizione della relazione di ricorrenza, abbiamo 8 chiamate ricorsive ciascuna per sottoproblema di taglia 4 ; resta da valutare il costo per le permutazioni di X e Y in modo che le sottomatrici siano memorizzate in row major e il costo per la memorizzazione del risultato anch esso in row major. In entrambi i casi, possiamo dire che si tratta di un problema semplice da risolvere: é sufficiente un numero costante di letture e scritture delle matrici in questione. Per questo motivo, la complessitá é Θ (. Risolviamo in modo iterativo la ricorsione, nell ipotesi >> M: T (, M, = 8 T ( 4, M, + Θ ( = 8 2 T (, M, + 2 Θ ( ( Θ = 8 3 T (, M, Θ ( ( Θ ( + Θ =... = 8 h T (, M, + Θ ( 4 h h 1 i=0 2i = 8 h Θ ( ( 4 h + Θ h 1 i=0 2i = Θ ( h i=0 2i 3

4 con h tale che 4 h M (caso base, ossia con h = log 2 M 2. Vediamo immediatamente che h i=0 2i Θ ( ( 2 h Θ M La complessitá di I/O é dunque pari a Θ ( M ell ipotesi M la complessitá di I/O risulta, invece, pari a Θ (. Combinando i due casi in un unica formula, otteniamo Θ ( ( T (, M, Θ M. M > M ossia T (, M, Θ ( min (, M Θ ( ( 1 + M Analisi del work Come per la complessitá di I/O, essendo l algoritmo ricorsivo, definiamo innanzittutto la relazione di ricorrenza per il lavoro svolto dall algoritmo. Ricordiamo che Θ ( n 2 e che l algoritmo usato per il prodotto di matrici in RAM é l algoritmo banale con complessitá Θ ( n 3, per cui ne deriva che Θ ( n 3 ( Θ 3 2. W (, M, = { ( Θ 3 2 M 8 W ( 4, M, + Θ ( > M Come prima, risolviamo la relazione di ricorrenza mediante il metodo iterativo: W (, M, = 8 W ( 4, M, + Θ ( = 8 2 W T (, M, + 2 Θ ( + Θ ( 4 2 = 8 3 W T ( 4 3, M, Θ ( + 2 Θ ( + Θ ( =... = 8 h W T ( 4 h, M, + Θ ( h 1 i=0 2i Esattamente come nell analisi della complessitá di I/O, ci fermiamo ad h = log 2 M 2, per cui 4

5 ( W (, M, Θ h 1 i=0 2i + 8 t M 3 2 ( Θ M M 3 M ( Θ M Otteniamo cosí il seguente risultato finale: ( W (, M, Θ 3 2 É interessante notare come la complessitá sia dominata dalla moltiplicazione delle rispettive sottomatrici, ossia dal caso base, anziché dalla ricorsione. 1.1 ote sulla programmazione in C Come é giá noto dal corso di Sistemi Operativi, per poter accedere ad un file su disco, e quindi per poter fare operazioni di input/output su di questo, si usa chiamare la seguente funzione di libreria: int open(const char *pathname, int flags; int open(const char *pathname, int flags, mode_t mode; cosí definita, almeno in ambiente UIX/Linux; equivalentemente nel sistema di Redmond si puó utilizzare la API: HADLE CreateFile( LPCTSTR lpfileame, DWORD dwdesiredaccess, DWORD dwsharemode, LPSECURITY_ATTRIUTES lpsecurityattributes, DWORD dwcreationdisposition, DWORD dwflagsandattributes, HADLE htemplatefile; La funzione open viene servita dalla syscall sys open( del SO che riceve come parametri il percorso del file da aprire, alcuni flag e una bit mask di permessi opzionale. É il kernel, quindi, a gestire il flusso dei dati dal disco alla memoria e viceversa. Una delle tecniche usata dai SO é quella di avere una disk cache in RAM che funziona in modo simile alla cache memory del processore: viene mantenuta, allo stesso modo, una tabella dei blocchi dei file contenuti in RAM. Quando si esegue un operazione di read il kernel controlla se la posizione di lettura contenuta in RAM nella disk cache, in caso di miss richiede la posizone dal disco caricando il blocco che la contiene. Esiste un meccanismo di caching anche per la scrittura dei dati su disco chiamato a volte delayed write. 5

6 Le funzioni sopra riportate permettono per di evitare il meccanismo intermedio di caching specificando opportuni flag. In ambiente UIX/Linux si deve specificare il flag O DIRECT che permette il trasferimento diretto dei dati di IO senza il kernel buffering, mentre in ambiente win32 é necessario impostare il parametro dwflagsandattributes alla costante FILE- FLAG O UFFERIG. Riguardo all uso di questo flag, Microsoft segnala la necessitá di inserirlo in un programma robusto e incoraggia a gestire con ogni riguardo la memoria stando attenti agli allineamenti e alle dimensioni dei blocchi da scrivere su e verso disco. 2 Indexing Argomento centrale di questo nuovo capitolo é l indexing, ossia quella tecnica che permette l accesso veloce ai dati di grandi collezioni. Prima di entrare nel vivo della trattazione é necessario affrontare alcune definizioni appartenenti all area delle basi di dati. Definizione 1 Un record é una tupla di valori per attributi associati a domini specifici. Definizione 2 C é una collezione di record. Ad esempio, nel modello relazionale una tabella popolata da un numero non nullo di tuple costituisce una collezione. Quando C é molto grande, essa viene memorizzata su disco dopo esser stata ordinata in base a una qualche chiave 1. elle basi di dati l ordinamento é in funzione della chiave primaria. Definizione 3 Una chiave é un sottoinsieme di attributi sui quali é possibile definire un ordinamento totale. Per esempio, supponendo di avere la seguente tabella studente (Matricola, Cognome, ome, Dataascita due possibili chiavi sono {Matricola} oppure {Cognome, ome, Dataascita}, nella ipotesi di non ammettere dei duplicati. el caso in cui questo non fosse vero 2, é possibile definire la chiave {Cognome, ome}. Osservazione: il significato di chiave utilizzato in questo contesto é diverso da quello proprio dell Information Retrieval. Gli indici definiti su una tabella di dati strutturati hanno il ruolo di aumentare l efficienza dell accesso ai dati, mentre quelli definiti su una collezione di dati non strutturati (é il caso del Reperimento dell Informazione hanno il ruolo di permettere un accesso efficacie. Infatti, una tupla é sempre reperibile da una tabella anche se nessun indice é stato definito in corrispondenza ad una chiave. el secondo caso, invece, non é possibile reperire alcun documento da una collezione se prima la collezione stessa non é stata indicizzata. 1 La definizione di chiave é successiva a quella di collezione. 2 Rispetto al modello relazionale, in questo contesto si permette la presenta di duplicati in una tabella 6

7 Definizione 4 Un indice per C rispetto ad una chiave K é una struttura dati che per ogni insieme di valori degli attributi della chiave K permette di ritrovare il record o i record con quei valori di chiave (se esitono, e che supporta anche le operazioni di: inserimento di un nuovo record; cancellazione di un record; (opzionale range query: trova tutti i record con i valori di chiave in un certo intervallo; (opzionale next: restituisce il record successivo a quello appena trovato in base alla chiave K, ovvero il record in C con il successivo valore della chiave (indipendentemente da come la collezione é organizzata su disco. Un indice quindi é molto simile ad un dizionario ma ha delle funzionali in piú. Si distinguono di seguito diversi tipi di indice. Definizione 5 Un indice si dice primario se C é ordinata su disco in base a K (chiave dell indice. Dato quindi un valore della chiave k (k K l indice restituisce il blocco contenente il primo record (se esiste con chiave k. Definizione 6 Un indice si dice secondario se C é ordinata su disco in base a una chiave K diversa dalla chiave K dell indice. É possibile distinguere due casi, diversi tra loro per l output restituito dall operazione di ricerca sull indice: K non ammette duplicati: dato un valore k K l indice dovrá restituire il blocco che contiene l unico record (se esiste con chiave k; K ammette duplicati: data un valore k K l indice dovrá restituire un blocco o una lista di blocchi contenente i puntatori a tutti i blocchi con record di C con chiave k. La seguente figura rappresenta la collezione C come tabella. Sia nel caso in cui la chiave k ammetta duplicati sia nel caso in cui non li ammetta, i record con chiave k potrebbero non essere consecutivi su disco. Mediante la ricerca con indice secondario, data la chiave k, é possibile ottenere i puntatori ai blocchi su disco che contengono i record con chiave k. Se questi record fossero tanti, i puntatori potrebbero non stare in un singolo blocco e sarebbe necessario organizzarli in una lista di blocchi, introducendo quindi uno o piú livelli di indirezione. Facciamo un esempio. Richiamando il problema precedente della collezione Studenti, possiamo avere i record ordinati in base al numero di matricola e quindi avere come indice primario l attributo Matricola. L indice secondario, invece, potrebbe essere definito sugli attributi ome e Cognome. Solitamente, gli indici primari vengono creati automaticamente dal DMS, associandoli alla chiave primaria della relazione. A ogni modo é sempre possibile richiedere al sistema 7

8 Figure 2: Indice secondario: K ammette duplicati di gestione di creare degli indici secondari per permettere all utente un accesso piú veloce attraverso altre chiavi. La struttura dati piú utilizzata per gli indici secondari 3 é il + tree. Per gli indici primari, spesso, si preferisce ricorrere alle tabelle hash. ibliografia [AV88] A. Aggarwal and J.S. Vitter. The input/output complexity of sorting and related problems. Communications of the ACM, 31(9: , [CLR90] T.H. Cormen, C.E. Leiserson, and R.L. Rivest. Introduction to Algorithms. McGraw-Hill, ew York Y, [PCG01] [C05] The PC Guide, Versione 2.2.0, Sito web D. ovet, M. Cesati. Understanding the Linux Kernel 3rd edition. O Reilly Media, Inc, A volte anche per gli indici primari 8