Tipi classici di memoria. Obiettivo. Principi di localita. Gerarchia di memoria. Fornire illimitata memoria veloce. Static RAM. Problemi: Dynamic RAM

Transcript

1 Obiettivo Tipi classici di memoria Fornire illimitata memoria veloce Problemi: costo tecnologia Soluzioni: utilizzare diversi tipi di memoria... Static RAM access times are 2-25ns at cost of $100 to $250 per Mbyte. Dynamic RAM access times are ns at cost of $5 to $10 per Mbyte. Dischi magnetici access times are 10 to 20 million ns at cost of $.10 to $.20 per Mbyte. 2/ 3/ Gerarchia di memoria CPU Principi di localita Levels in the memory hierarchy Level 1 Level 2 Increasing distance from the CPU in access time Perche puo essere utile avere una gerarchia di memoria? Quali sono i presupposti teorici? Level n Principio di localita temporale Principio di localita spaziale Size of the memory ateach level 4/ 5/

2 Localita temporale Localita temporale nei dati Se un certo oggetto e stato appena usato, facilmente verra usato di nuovo in un istante futuro vicino Quando si ha assenza di localita temporale? CASO LIMITE: Quando una variabile viene usata una sola volta!! Quando si ha alta localita temporale? Quando si accede piu volte ad una stessa variabile in uno spazio di tempo ridotto for (i=0; i<1000; i++) printf( %d, i); 6/ 7/ Localita temporale nel codice Localita spaziale Quando si ha assenza di localita temporale? CASO LIMITE: Codice lineare ogni istruzione vene esguita una sola volta Quando si ha alta localita temporale? Quando si accede piu volte ad una stessa istruzione in uno spazio di tempo ridotto for (i=0; i<1000; i++) printf( %d, i); solo qui? Se un certo oggetto e stato appena usato, facilmente esiste un oggetto, a lui vicino, che verra usato in un istante futuro vicino 8/ 9/

3 Localita spaziale nei dati Localita spaziale nel codice Quando si ha assenza di localita spaziale? CASO LIMITE: I dati sono posti distanti tra di loro ed in maniera casuale, non strutturata Quando si ha alta localita spaziale? Quando si accede ad esempio ai diversi dati di un array, o ai campi di una struttura for (i=0; i<1000; i++) printf( %d, a[i]); Quando si ha assenza di localita spaziale? CASO LIMITE: un codice composto solo di salti a locazioni lontane Quando si ha alta localita spaziale? Codice sequenziale, senza salti a locazioni lontane 10/ 11/ Focus su due livelli HIT (colpito) e MISS (mancato) Una gerarchia e composta da piu livelli, ma gli spostamenti avvengono solo tra due livelli adiacenti, e quindi mediante meccanismo ricorsivo... HIT: quando trovo il dato al livello corrente MISS: quando lo devo richiedere al livello inferiore viene richiesto un dato al livello I lo cerco al livello I se lo trovo, lo fornisco se non lo trovo, lo richiedo al livello I-1, lo memorizzo al mio livello, lo fornisco Indici di prestazioni: HIT RATE: e la frazione di richieste soddisfatte dal livello corrente MISS RATE (1 - HIT RATE):... 12/ 13/

4 Unita di uso della cache Block (blocco di memoria) puo essere piccolo come una cella di memoria, ma non e; sempre la soluzione ottimale dal punto di vist delle prestazioni localita spaziale Prestazioni Si deve parlare di tempi Hit Time: tempo per accedere ad un dato disponibile: tempo per determinare se il dato e disponibile tempo effettivo di lettura Miss Penalty: aggravio di tempo per recuperare il blocco: tempo per ricevere il blocco da livello inferiore (lento) tempo per rimpiazzare uno dei blocchi esistenti 14/ 15/ Diversi Approcci Un semplice approccio Da cosa sono caratterizzati? Come faccio a determinare se un dato e presente? Se devo, quale e il criterio per creare spazio per caricare tale blocco? Cosa devo fare quando devo Scrivere un dato? Quanto e grande il blocco da caricare dal livello sottostante? DIRECT MAPPING Ogni parola dell memoria puo andare in un solo posto nella cache Quindi per sapere se il dato e contenuto, basta guardare quella parola e la si trova 16/ 17/

5 DIRECT MAPPING DIRECT MAPPING 000 Cache Ogni cella di memoria, ha una posizione nella cache specificata In ogni posizione nella cache ci possono essere il contenuto di diverse celle di memoria non contemporaneamente!!! Memory Relazione 1 (cache) a n (memoria) 18/ 19/ Riposta a prima domanda Elementi tabella cache Come faccio a determinare se il dato che voglio e presente? Index Valid Tag Data So dove guardare mapping memoria-> cache e univoco Devo aggiungere informazione alla cella della cache, che non puo contenere solo il dato 1 bit (Valid): mi dice se contiene qualcosa n bit (Tag): mi dicono quale tra le possibili celle di memoria e effettivamente contenuta Dato un indirizzo di memoria di n bits e una cache di 2 m celle di memoria Index m bit verranno usati gli m bit meno significativi dell indirizzo di memoria per selezionare Valid 1 bit Tag n-m bit quelli che mancano per distinguere la cella mappata Data la grandezza del blocco 20/ 21/

6 Esercizio 7.7 Cache di 16 blocchi (grandi una word) Si accede alle seguenti celle di memoria: 1, 4, 8, 5, 20, 17, 19, 56, 9, 11, 4, 43, 5, 6, 9, 17 Calcolare Hit a Miss e situazione finale Index Valid Tag Data Index Valid Tag Data HIT sul 5 HIT sul 9 HIT sul 17 HIT-RATE=3/16=0.18 Analisi Come mai HR cosi basso? Esempio fittizio massimo teorico? 4/16=0.25 sfrutta localita spaziale? Sfrutta localita temporale? 27/ 28/ Struttura cache La componente cache dovra : avere in input l indirizzo della cella di memoria dare in output se contiene il dato il dato 29/