Uniamo VM e CACHE. Physically addressed. Physically Addressed. Prestazioni. Ci sono varie alternative architetturali. Sono quelle piu semplici

Transcript

1 Uniamo VM e CACHE Physically addressed Ci sono varie alternative architetturali physically addressed virtually addressed virtually indexed Sono quelle piu semplici un dato puo essere in cache solo se e contenuto in memoria centrale l indirizzo da cui si parte (index e tag) e quello fisico Virtual address Physically Addressed Virtual page number Page offset Prestazioni Anche se non sono l obiettivo principale, e meglio tenerne conto Physical address Translation Physical page number Tag Page offset Index La Page Table e contenuta in memoria Quando si vuole accedere ad una cella di memoria, prima di tutto bisogna accedere al suo indirizzo fisico quindi PRIMA di guardare se c e qualcosa nella cache, si accede alla memoria per sapere dove guardare!!! 19

2 Introduciamo un nuovo livello di cache per la traduzione degli indirizzi Translation Lookaside Buffer E una vera e propria cache anche se molto piccola quindi spesso: Completamente associativa Tag e quindi il numero di pagina virtuale Il dato e il numero di pagina fisico Singola parola Yes PT Hit Page Fault No Cache miss stall Virtual address access hit? No Trytoreaddata from cache Cache hit? VM Cache Possibile? Gravita' Hit Hit Hit Hit Hit Miss (S) (S) 0 1 Hit Miss Hit N - Hit Miss Miss N - Miss Hit Hit S 1 Miss Hit Miss S 2 Miss Miss Hit N - Miss Miss Miss S 3 No Yes Yes Write? Deliver data to the CPU Physical address Yes Write data into cache, update the tag, and put the data and the address into the write buffer Virtual address Virtual pagenumber Page offset 12 MIPS R00 caratteristiche hit Valid Dirty Tag Physical page number Physical pagenumber Page offset Physical address Physical address tag Cache index Byte offset 2 Perche puo essere piccola? Altissima localita temporale (spaziale) TEMPORALE se vista a livello di pagine: basta accedere non alla stessa cella, ma a celle appartenenti ad una stessa pagina SPAZIALE se vista a livello di indirizzi Valid Tag Data Cache 32 Cache hit Data 23 24

3 Virtually addressed Virtually addressed Cache Cache hit Virtual address Virtual page number Pageoffset address tag Cache index Valid Tag Data 32 Data hit ValidDirty Byte offset 2 Tag 12 Physical page number Physical page number Page offset PRO: non si deve accedere alla memoria prima di guardare in cache CONTRO: in ambiente con piu programmi in esecuzione: Indirizzi virtuali sono comuni svuotare cache ad ogni context switch aggiungere al tag. Il PID del processo Aliasing di memoria condivisa Esercizio Cioe`... Simulare l accesso a e cache dato il seguente programma Ipotizzare una di 2 celle, pagine di 4KB e una RAM fisica grande 16Kb una cache di 512Byte SW-DM Indirizzo virtuale 32 bit indirizzo fisico 32 bit Ho 4 pagine fisiche La page table e` memorizzata nella pagina 0 Ho 2 righe nella inizialmente vuote Ho 256Byte di cache blocchi di 32 bit 64 righe PageTable

4 Frammento di codice Indirizzamento fisico 16 lw $1, 4100($0) lw $2, 10000($0) 24 add $3, $1, $2 28 sw $3, 30000($0) 30 sub $3, $1, $2 34 sw $3, 41($0) Ricaviamo accessi a memoria CACHE Page Table RAM Traduco indirizzo virtuale in fisico tramite e PageTable (se necessario) accedo alla cache usando indirizzo fisico accedo a memoria usando indirizzo fisico IV VP Offset PT PF IF Tag Index CACHE M M M Carico in pagina fisica 1 pagina virtuale 0 MemorizzotraduzioneinPagetable Memorizzotraduzionein M M M Carico in pagina fisica 2 pagina virtuale 1 MemorizzotraduzioneinPagetable Memorizzotraduzionein 0 H M TrovotraduzionediPV0in M M M Carico in pagina fisica 3 pagina virtuale 2 conflitto, sostituisco MemorizzotraduzioneinPagetable Memorizzotraduzionein,ma ho bisogno di liberare una riga (LRU) H M TrovotraduzionediPV0in H M TrovotraduzionediPV0in M M M Conflitto scarico pagina vecchia: 2 devo svuotare righe cache relative (index 1) Carico in pagina fisica 2 pagina virtuale 7 MemorizzotraduzioneinPagetable Memorizzotraduzionein,ma ho bisogno di liberare una riga (LRU) CACHE Indirizzamento virtuale Page Table RAM accedo alla cache usando indirizzo virtuale Traduco indirizzo virtuale in fisico tramite e PageTable (se necessario) accedo a memoria (se necessario) usando indirizzo fisico 31 32

5 IV Tag Index CACHE VP Offset LB PT PF IF M 0 16 M M Carico in pagina fisica 1 pagina virtuale 0 Memorizzo traduzione in Page table Memorizzo traduzione in M 1 4 M M Carico in pagina fisica 2 pagina virtuale 1 Memorizzo traduzione in Page table Memorizzo traduzione in 0 5 M 0 H Trovo traduzione di PV0 in M M M Carico in pagina fisica 3 pagina virtuale 2 Memorizzo traduzione in Page table Memorizzo traduzione in, ma ho bisogno di liberare una riga (LRU) M 0 24 H Trovo traduzione di PV0 in M 0 28 H Trovo traduzione di PV0 in M M M Conflitto scarico pagina vecchia: 2 NONsonoobbligatoasvuotarerighecacherelative(index1) Carico in pagina fisica 2 pagina virtuale 7 Memorizzo traduzione in Page table Memorizzo traduzione in, ma ho bisogno di liberare una riga (LRU) Cache Cache hit Virtually indexed Virtual address Virtual page number Pageoffset Valid Tag Data 32 Data 12 ValidDirty Tag Physical page number hit Physical page number Page offset Virtually indexed Dimensione pagina grande? PRO: in cache sono indirizzi fisici e molto veloce e quindi il confronto tra i TAG e quasi senza rallentamenti CONTRO: viene legata dimensione cache a dimensione della pagina Multiword? no Associative? Si, ma... PRO indicizzazione virtuale riduzione dimensione Page Table ammortizzazione swap CONTRO: possibile peggior sfruttamento memoria rallentamento processi piccoli 35 36

6 Protezione Memoria Come realizzarla? E la seconda funzione della memoria virtuale Piu processi (programmi) possono condividere la memoria centrale del calcolatore senza poter leggere e scrivere dati di altri programmi eccezione: condivisione richiesta e consapevole di una pagina di memoria ma con diritti di accesso organizzare la page table in maniera adeguata la mappatura su pagine fisiche deve essere tale che non ci siano possibili sovrapposizioni rendere non accessibile ai programmi normali tutte le page table le page table sono contenute in memoria centrale Page table in memoria Elementi critici Sono nello spazio di indirizzamento virtuale del sistema operativo quindi sono accessibili da SO ma non da altri programmi ci stiamo mangiando la coda? affinche un programma non possa modificare le page table il Page Table Register indica l inizio della page table corrente... la contiene diverse traduzioni gia effettuate si possono forzare traduzioni Se si ha accesso a tali componenti, non si puo garantire nulla 40 41

7 SOLUZIONE L architettura della macchina (HW) prevede meccanismi per assicurare che solo un programma (il sistema operativo) abbia accesso a tali componenti identificazione di due modi di funzionamento USER e SUPERVISOR set di istruzioni riservato a SUPERVISOR scrittura degli elementi critici visti prima passaggio sicuro a modo SUPERVISOR meccanismo delle eccezioni system calls (eccezioni sincrone) MISS Abbiamo visto nello schema che comporta lettura della Page table per controllare esistenza pagina in memoria e se Page table HIT -> aggiornamento del se Page table MISS -> generazione PAGE Faults ma come facciamo a leggere Page Table? Una possibilita : gestire il MISS in HW... Seconda possibilita (piu comune): viene generata una eccezione Gestione SW del MISS PAGE FAULTS L hw solleva una eccezione: scrive dentro a EPC (Exception Program Counter) l indirizzo della istruzione in esecuzione scrive dentro al registro Cause il tipo di eccezione passa in modosupervisor passa il controllo ad una specifica istruzione del sistema operativo Il sistema operativo legge Page Table Viene gestito sempre in SW E una operazione lunga perche c e accesso al disco Il SO salva tutte le informazioni di stato del processo contenuto dei registri normali page table register EPC e Cause 44 45

8 PAGE FAULTS... Page Faults... Deve essere individuato indirizzo virtuale che ha generato l eccezione: EPC contiene l indirizzo dell ISTRUZIONE durante la quale... se l errore e stato generato dalla lettura dell istruzione allora e EPC altrimenti, va cercato tra gli argomenti specificati nella istruzione di indirizzo EPC Cerca nella Page Table dove andare a trovare (nel disco) la pagina contenente l indirizzo virtuale richiesto Sceglie (se necessario) una pagina fisica di memoria da sostituire per fare posto alla nuova se modificata, deve scaricarla prima su disco Page Faults... Legge la pagina dal disco alla memoria cioe fa partire la lettura DMA il processo a questo punto risulta sospeso in attesa del completamento dell operazione di caricamento il processore e libero Viene scelto il processo da eseguire tra i processi sospesi (ma pronti) introduce possibili complicazioni es. page fault in concorrenza per spazio fisico Ritorno da page fault Quando il trasferimento della pagina dal disco e completato, viene segnalato al sistema operativo Mette il processo tra i processi sospesi (ma pronti) eventualmente gli da il controllo viene ripristinato il cotenuto di tutti i registri viene rimesso il processore in modo user Diverse politiche di scheduling dei processi 48 49

9 Ritorno da page fault... Ripartenza istruzione Il PC continene l indirizzo dell istruzione che aveva causato il PF (salvato in EPC) I caso: eccezione su caricamento istruzione il processo ricomincia l esecuzione II caso: eccezione su accesso a dati il processo si era sospeso in mezzo ad una operazione bisogna garantire che si possa ricominciare l esecuzione dell istruzione da capo rendere l istruzione restartable In MIPS e facile eventuali cambiamenti di stato della macchina avvengono sempre nell ultima fase dell esecuzione dell istruzione scrittura di un registro scrittura di una cella di memoria basta garantire di non scrivere dati durante il fallimento dell istruzione deasserire i segnali write in presenza di eccezione Protezione condivisione 1: Esercizio 7.27 (7.13 it) Alcune volte e necessario condividere spazio in memoria bit di accesso in scrittura a pagina nuovo tipo di eccezione - violazione di protezione tutti i bit di controllo (modifica, protezione, etc.) devono essere presenti anche nella Date le seguenti macchine: M1: cache DM SW miss rate: Istruz. 4%, dati 8% M2: cache DM MW (4 parole) miss rate: Istruz. 2%, dati 5% M3: cache 2-way MW (4 parole) miss rate: Istruz. 2%, dati 4% 50% istruzioni si riferisce a dati in memoria MISS PENALTY = 6 + numero parole nel blocco Quale macchina spende piu cicli di clock per Miss Rate? 52 55

10 2: Esercizio 7.28 (7.14 it) 3: Esercizio 7.32 (7.9 it) Date le seguenti frequenze di clock: M1: 10 ns M2: 10 ns M3: 12 ns Assunto un CPI di 2.0 in assenza di miss per tutte e tre le macchine. Confrontare le velocita delle tre macchine Date le seguenti caratteristiche: indirizzamento virtuale a 40 bit indirizzamento fisico a 36 bit dimensione pagina 16KB bit aggiuntivi per ogni entry della page tabel: uso, validita, modifica, protezione Determinare dimensione massima della page table per un processo : 7.29 Data il seguente programma: int i,j,c,stride,array[256]; for(i=0;i<10000; i++) for(j=0;j<256;j=j+stride) c=array[j]+5; Considerando solo gli accessi all array e che un intero occupi una parola (4 byte) date le seguenti macchine: M1: cache 256 byte DM MW (16 byte) M2: cache 256 byte 2-way MW (16 byte) quale e il miss rate se stride = 132? quale e il miss rate se stride = 131? 5: Esercizio 7.38 Facendo riferimento alla divisione data per i MISS: obbligatori di capacita di conflitto Dire come vengono influenzati da: riduzione della dimensione del programma per miglioramento compilatore aumento frequenza clock aumento grado di associativita aumento dimensione blocco 58 59

11 A: B: 6: Quale e migliore e perche? for (j=0; j<000; j++) for (i=0; i<000; i++) x[i][j] = x[i][j] + 1; for (i=0; i<000; i++) for (j=0; j<000; j++) x[i][j] = x[i][j] + 1; si consideri il risultato di una compilazione senza ottimizzazioni 60