Esercitazione 14. Memoria Principale M1

Transcript

1 Esercitazione Sommario Gerarchia di memoria Memoria Virtuale Segmentazione Paginazione Segmentazione Paginata. Gerarchia di memoria Il punto critico dell architettura di Von Neumann è il canale di comunicazione tra CPU e memoria. La struttura fisica che limita le prestazioni del sistema è il canale di comunicazione tra CPU e memoria. Col miglioramento della tecnologia dei semiconduttori il tempo di ciclo della CPU è migliorato con un trend migliore rispetto al miglioramento del tempo di ciclo della memoria. Per questo motivo all interno di un sistema a calcolatore il progetto della memoria è un punto estremamente importante ed influente sulle prestazioni globali del sistema. La parte di memoria deve essere progettata in modo da ottimizzare una serie di parametri:. costo minimo. capacità massima. tempi di accesso minimi. A tuttoggi non vi è una tecnologia che consente di ottenere al meglio le caratteristiche. La soluzione approssimata la si ottiene tramite una gerarchia che cerca di ottimizzare questi parametri. CPU Memoria Principale M Memoria Secondaria M Durante l esecuzione di un programma, il processore genera una sequenza di indirizzi (istruzioni e dati) in memoria, e tenta di accedere alle corrispondenti celle, assumendo che si trovino in M. Se così non è, il dato corrispondente deve venire spostato dal livello di memoria in cui si trova fino ad M.

2 Poichè il processo di spostamento è lento, tale situazione va evitata il più possibile, facendo in modo che in M vi siano il più spesso possibile gli indirizzi a cui la CPU sta per fare riferimento. Un sistema di memoria tipico è composto da un insieme di memorie M, M,..., M n di vario tipo, aventi le seguenti caratteristiche: costo per bit decrescente tempo di accesso crescente dimensione crescente. Il processore comunica direttamente con M ; in generale M i comunica con M i+ ed M i-. In genere il contenuto di ogni livello di memoria M i è un sottoinsieme del contenuto di M i+. Un sistema di memoria gerarchico può essere reso efficiente se la modalità di accesso ai dati ha caratteristiche prevedibili. Si può verificare sperimentalmente che su intervalli limitati gli indirizzi generati da un qualsiasi programma tendono ad essere confinati ad una regione limitata del suo spazio di indirizzamento (località dei riferimenti). Questo è essenzialmente dovuto ai seguenti fatti: sia i dati che le istruzioni sono in genere scritti in memoria nello stesso ordine con il quale si fa ad essi riferimento i programmi sono ricchi di cicli... Obiettivi di una memoria gerarchica La politica di gestione tende a mimare una memoria idelae che abbia i tempi di accesso della più veloce, la dimensione della maggiore ed i costi della più economica. Supponiamo di avere livelli di memoria M ed M, aventi dimensioni S ed S, e costi c e c. Il costo per bit del sistema complessivo sarà dunque:... Tasso di successo c S c = S + c S + S Si definisce come tasso di successo (hit ratio), la probabilità che la richiesta di accesso della CPU sia soddisfatta al livello M.... Tasso di insuccesso Si definisce come tasso di insuccesso (miss ratio) la probabilità che la richiesta non sia soddisfatta al livello M.

3 ... Tempo di accesso globale Detti t A e t A i tempi di accesso ad M ed M, siano H e (-H) i tassi di successo ed insuccesso, il tempo medio di accesso t A sarà quindi t A = H* t A +(-H)* t A Detto poi t B il tempo di trasferimento di un blocco (spostamento da M ad M ), si avrà t A =t B +t A, da cui t A =t A +(-H)*t B La bontà con un sistema di memoria gerarchico si potrà valutare sulla base dell efficienza d accesso e=t A /t A : dove r=t A /t A. e 0,8 0,6 0, 0, e = r + ( r ) H r= 0 0,00 0,0 0,0 0,60 0,80,00 H r= r=0 r=00 Dal grafico di e si deduce che con r=00, per avere e>0.9, si deve avere H> Uso efficiente della gerarchia di memoria Per un uso efficiente della gerarchia di memoria è necessario stabilire: quando effettuare la sostituzione dalla memoria M alla memoria M per far spazio a nuovi dati; la dimensione del blocco da trasferire per garantire la massima efficienza; quale politica di allocazione utilizzare. Politiche di sostituzione La sostituzione di blocchi dalla memoria M pò essere fatta: a richiesta: in caso di fallimento si richiamano nuovi dati dal secondo livello; in modo preventivo: non si ha la richiesta effettiva per un determinato dato, ma si può prevedere che un certo dato venga richiesto dall unità centrale. Il prefetching è un esempio di accesso preventivo.

4 Dimensione del blocco da trasferire È importante il rapporto tra la parte di memoria effettivamente utile e la dimensione del blocco trasferito. Se il blocco di memoria risulta troppo grande, viene effettuato uno spostamento di dati che poi non serviranno. Si ha dunque un trasferimento di dati inutili ed un sovraccarico (overhead) rispetto a quello che portrebbe essere il tempo necessario minimo. Se il blocco è troppo piccolo il trasferimento di un blocco ha un costo elevato in quanto esiste un tempo di trasferimento che è indipendente dalle dimensioni del blocco ed incide notevolmente per blocchi di dimensione ridotta. Politica di allocazione Esistono due possibili politiche di allocazione:. statica: ogni blocco è posto in posizione predeterminata (sempre la stessa posizione);. dinamica: il blocco che si sposta da M ad M si va a collocare in una zona di memoria momentaneamente libera che lo può contenere. Tra le politiche di allocazione dinamica si distingue ancora: Thrashing a. strategia preemptive: il blocco sostituisce un blocco in corso di uso, che viene spostato o eliminato da M ; b. strategia non preemptive: il blocco può venire messo solo in zone libere di M. È il fenomeno negativo che si ha quando la miss ratio è troppo elevata ed il sistema passa buona parte del tempo a trasferire blocchi verso M.. Memoria Virtuale La memoria virtuale è un meccanismo attraverso il quale il Sistema Operativo fa apparire al programmatore un sistema composto da almeno livelli di memoria come un unica memoria, indirizzabile direttamente e con le stesse caratteristiche di quella al primo livello. I programmi fanno riferimento alla memoria attraverso indirizzi logici, normalmente di tipo simbolico. La memoria è invece organizzata in indirizzi fisici. Il meccanismo della memoria virtuale crea una corrispondenza dinamica tra indirizzi fisici e logici. Ogni attività o processo eseguito dal processore vede un proprio spazio di indirizzi virtuali o logici che non ha nulla a che fare con la memoria fisica con la quale la CPU lavora. La memoria fisica è indirizzata tramite indirizzi fisici. Lo spazio degli indirizzi logici è sempre maggiore dello spazio degli indirizzi fisici.

5 Il processore ha a che fare con uno spazio di indirizzamento virtuale. Esiste una corrispondenza tra indirizzo logico ed indirizzo fisico. Il trasferimento dei dati dalla memoria secondaria alla memoria principale è detta allocazione e corrisponde alla traduzione dall indirizzo logico all indirizzo fisico. L uso della memoria virtuale offre i seguenti vantaggi: evita al programmatore di dover gestire esplicitamente la memoria; permette un uso efficiente della memoria in ambienti multi-utente (ogni processo farà riferimento al proprio spazio di memoria virtuale); rende i programmi indipendenti (dal punto di vista funzionale) dalla configurazione reale di memoria del sistema; fa sì che i programmi vedano una memoria con ridotti tempi di accesso e basso costo per bit (sfrutta efficacemente la gerarchia). CPU Traduttore Memoria Principale Memoria Secondaria Il modulo traduttore si occupa della trasformazione da indirizzo logico ad indirizzo fisico. Se il dato non è presente nella memoria principale, viene scatenata un eccezione (memory fault) che causa il trasferimento del dato dalla memoria secondaria alla memoria principale... Allocazione È l operazione di trasformazione degli indirizzi logici presenti nei programmi in indirizzi fisici, attraverso i quali accedere alla memoria principale, dove dati e codice sono presenti. Richiede ovviamente la conoscenza delle strategie e dei meccanismi di memoria virtuale utilizzati. Il passaggio completo è compiuto da vari soggetti: dal programmatore (è vero solo per i primi calcolatori o per quelli molto semplici. Se poi il sistema è multiutente l operazione non è neppure possibile fisicamente); dal compilatore (trasforma gli indirizzi logici in coppie di valori del tipo base, offset In molte architetture la combinazione di base e offset per ottenere l indirizzo fisico viene eseguita a run-time; base è spesso contenuto in un registro, in modo da rendere più veloce il calcolo. Il compilatore non può però sapere l indirizzo fisico di partenza dei singoli blocchi); dal loader (al momento del caricamento del programma in memoria, prima della sua esecuzione, i blocchi di dato e di codice vengono allocati ed il loader

6 associa ad ogni base il relativo indirizzo fisico. L intestazione dei programmi eseguibili (header) contiene spesso una tabella (relocation table) con l elenco delle istruzioni che devono essere corrette dal loader sulla base della posizione dei blocchi); dal sistema operativo: durante l esecuzione del programma i valori delle basi possono dover essere modificati a seguito di uno spostamento dei blocchi. L intervento del S.O. può essere necessario se il linguaggio di programmazione permette: procedure recursive (necessità di allocare nuovo spazio per lo stack); allocazione dinamica della memoria.. In un sistema multiutente: il programmatore ed il compilatore specificano gli indirizzi relativi all interno dei singoli blocchi di memoria; il sistema operativo gestise il trasferimento dei dati dalla memoria secondaria alla memoria principale e definisce in fase di esecuzione le locazioni fisiche nelle quali il singolo blocco viene posto. Un blocco di memoria è una sequenza di dati contigui sia nello spazio degli indirizzi logici sia nello spazio degli indirizzi fisici. All interno del blocco i dati sono indirizzati attraverso lo spiazzamento rispetto all indirizzo iniziale del blocco. Il problema del trasferimento di un blocco in memoria principale corrisponde al problema di individuare la collocazione fisica del blocco. I blocchi sono rilocati in memoria alterando l indirizzo di base. Se il numero di blocchi da gestire è basso, gli indirizzi di base vengono memorizzati in appositi registri. Se invece il numero è elevato, allora gli indirizzi vengono mantenuti in una tabella detta Memory Address Table (MAT). Se la allocation policy è di tipo preemptive, la MAT contiene per ogni blocco anche la priorità ad esso associata. Poichè ad essa viene fatto riferimento molto spesso, la MAT è in alcuni casi allocata in una apposita memoria veloce di tipo cache denominata Translation Lookaside Buffer (TLB). Il blocco che contiene la MAT è costantemente tenuto in memoria. Poichè la dimensione di TLB può anch essa variare, una sua parte può in taluni casi essere soggetta a swap. TLB Indirizzo fisico del blocco Ind. Logico Indirizzo logico del blocco Memory Map Ind. Fisico M M La Tabella TLB contiene le informazioni per la traduzione da memoria secondaria a memoria principale. L operazione di traduzione deve essere molto veloce poiché deve essere effettuata ad ogni accesso in memoria. 6

7 . Segmentazione Sono insiemi di parole di memoria contigue e logicamente correlate. Ad esempio costituiscono ciascuno un segmento: il codice di una procedura l insieme di dati su cui lavora un programma. Una parola di un segmento è accessibile tramite l indirizzo di testa del segmento (definito al momento del caricamento dal Sistema Operativo) e l offset al suo interno (definito al momento della compilazione). Un programma è una collezione di segmenti che si richiamano tra loro in corrispondenza delle chiamate da un modulo (es. una procedura) ad un altro. I segmenti possono avere dimensione diversa. Se la memoria principale è suddivisa in segmenti la relativa strategia di allocazione è denominata segmentazione. Il segmento può essere utilizzato come blocco elementare. Quando si fa riferimento ad un segmento non residente in memoria, esso è interamente trasferito dalla memoria secondaria. L insieme degli indirizzi ai quali i segmenti sono piazzati nella memoria principale costituisce la segment table, che spesso costituisce anch essa un segmento rilocabile. Vantaggi: La struttura del segmento corrisponde alla naturale suddivisione dei dati e dei programmi. ogni segmento, essendo un modulo logico, possiede i propri diritti di accesso i segmenti possono variare la propria dimensione durante l esecuzione del programma. Svantaggi: la gestione dei meccanismi di allocazione è complesssa in generale si ha frammentazione e dunque per una efficiente gestione occorre effettuare la ricompattazione della memoria... Allocazione della memoria principale Definiamo regione una zona della memoria principale in grado di memorizzare un blocco di informazione. Il processo con il quale si sceglie in quale regione scrivere un blocco di informazione si definisce Allocazione della Memoria Principale. L Allocazione della Memoria Principale si basa su una Mappa della Memoria, che contiene: una lista dello spazio occupato: per ogni blocco in memoria, si specifica in quale regione è memorizzato, nonchè la sua lunghezza (se non è fissa) una lista dello spazio disponibile: per ogni regione si specifica il suo indirizzo di partenza e, eventualmente, la sua dimensione 7

8 un direttorio della memoria secondaria: per ogni blocco associato ad un programma in esecuzione si specifica il dispositivo su cui è memorizzato e le informazioni per farvi accesso.... Deallocazione di un blocco Quando un blocco esce dalla memoria principale, viene deallocato. Questo comporta: l aggiornamento delle liste della memoria occupata e di quella libera il rilascio di una regione della memoria principale. Un blocco viene deallocato in casi: quando termina il programma che lo utilizza quando la memoria che esso utilizza viene assegnata ad un altro blocco con priorità maggiore.... Utilizzazione All interno di M ci possono essere delle zone che non contengono dati utili (S u ), dovute alle seguenti cause: frammentazione: aree vuote dovute alle diverse dimensioni dei blocchi caricati in M presenza del software di gestione informazioni inutili, presenti in blocchi trasferiti in M, ma non utilizzati dalla CPU. Viene quindi definito un coefficiente di utilizzazione: u = S u S... Metodi di allocazione Sono di tipi: nonpreemptive: il nuovo blocco viene caricato in una regione libera; preemptive; il nuovo blocco viene caricato in una regione eventualmente occupata da un altro blocco. L analisi dei vantaggi/svantaggi delle varie tecniche viene fatta essenzialmente in maniera sperimentale. Allocazione nonpreemptive Sono più semplici di quelli preemptive, ma vanno in crisi quando non esiste una regione libera in cui caricare il nuovo blocco (overflow). In questo caso il relativo programma deve restare in attesa. 8

9 Supponendo che il blocco richiesto sia di dimensione n, le due tecniche nonpreemptive utilizzate sono: la tecnica first-fit: si scandisce la memoria, arrestandosi non appena si trova una regione libera di dimensione n la tecnica best-fit: si scandisce tutta la memoria, e si sceglie la regione libera di dimensioni minori, tra quelle più grandi di n. Il metodo first-fit è più efficiente ma provoca una maggiore frammentazione. Sulla base dei dati sperimentali si tende a preferirlo al metodo best-fit. Allocazione preemptive Si suddividono in due categorie: quelli basati sulla compattazione quelli basati sulla sostituzione. La compattazione consiste nello spostare i blocchi che occupano la memoria in modo tale che essi risultino contigui: in tal modo tutta la memoria libera costituisce un unica regione. Una tecnica di allocazione unicamente basata sulla compattazione è la seguente: si considera come memoria libera la sola memoria al fondo dello spazio di indirizzamento; spazi liberi intermedi vengono ignorati; si allocano i blocchi richiesti in cima alla memoria libera; si esegue la compattazione ogni volta che la memoria libera al fondo è più piccola del blocco richiesto. blocco blocco blocco blocco.. Politiche di sostituzione I metodi basati sulla sostituzione si basano sulla scelta intelligente del blocco al posto del quale caricare il blocco richiesto. 9

10 Tali metodi mirano a massimizzare la hit ratio, ossia a minimizzare il numero di memory fault. Equivalentemente, si cerca di massimizzare il tempo tra due memory fault successivi. Il tasso di successo assume il valore massimo se si rende massimo l intervallo tra due memory fault successivi.... Sostituzione ottimale Dato un programma P, una soluzione ottimale (non ottima) può essere teoricamente trovata come segue: si esegue una prima volta P, memorizzando il blocco relativo ad ogni accesso in memoria sulla base dei dati raccolti si determina ad ogni istante qual è il blocco che verrà referenziato più tardi nel tempo, e che quindi è il miglior candidato ad essere deallocato. Esempio: hit hit hit hit hit hit Dal punto di vista pratico, le tecniche per decidere quale blocco deallocare sono : la tecnica FIFO: si dealloca il blocco che da più tempo è in memoria la tecnica LRU (Least Recently Used): si dealloca il blocco che da più tempo non è stato referenziato.... Tecnica FIFO È relativamente facile da implementare: ogni volta che si carica un blocco in memoria gli si associa il valore di un indice, che viene poi incrementato quando si deve deallocare un blocco, si sceglie quello con indice minore. Il principale svantaggio consiste nel fatto che blocchi referenziati frequentemente (ad esempio le istruzioni di un ciclo) sono continuamente deallocati e poi ricaricati in memoria. Esempio: 0

11 hit hit hit... Tecnica LRU Viene implementata associando ad ogni blocco in memoria un registro (denominato registro di età). Esso viene caricato con un valore predeterminato ogni volta che si fa accesso al blocco. I registri di età di tutti i blocchi sono decrementati periodicamente in maniera automatica. Quando si deve scegliere il blocco da deallocare si prende quello il cui registro d età contiene il valore minore. hit hit hit hit hit. Paginazione Quando la memoria è suddivisa in blocchi di dimensioni fisse si parla di pagine. Il relativo meccanismo di allocazione della memoria è noto come paginazione. Per far riferimento ad una parola si specifica l indirizzo della pagina e l offset. La paginazione fa uso di una Page Table. Ogni elemento della Page Table è relativo ad una pagina, e contiene: un bit di presenza se la pagina risiede nella memoria principale, l indirizzo del page frame in cui la pagina è piazzata i diritti di accesso un bit di cambiamento, che segnala se la pagina è stata modificata da quando è stata caricata in memoria: in tal caso deve essere salvata quando viene deallocata. Vantaggi:

12 richiede un meccanismo di allocazione della memoria relativamente semplice non provoca frammentazione esterna. Svantaggi: le pagine non hanno un significato logico provoca frammentazione interna (nell ultima pagina di ogni programma).... Frammentazione È il fenomeno per cui una parte di memoria principale non viene utilizzata a causa dei limiti del meccanismo di allocazione. Si può avere: frammentazione esterna (con la segmentazione), dovuta agli spazi inutilizzati tra i segmenti; può essere risolta con la compattazione; frammentazione interna (con la paginazione), dovuta allo spazio inutilizzato nell ultima pagina di ogni programma.. Segmentazione paginata Ogni segmento è diviso in pagine e ad esso sono associati: un elemento nella segment table una page table. Per fare accesso ad una parola si specifica: un indice del segmento: con questo si fa accesso alla segment table, attraverso la quale si risale alla page table opportuna un indice di pagina, con il quale si fa accesso alla page table, da cui si estrae l indirizzo fisico della pagina un offset all interno della pagina.

13 Esempio di segmentazione paginata nel processore Intel 8086: Indirizzo Virtuale Indirizzo Lineare Dir Page Offset Segmento Offset Indirizzo Fisico Memoria Principale Segment Table Page Table Page Directory Programma Segmentazione Paginazione Combina i vantaggi della segmentazione con quelli della paginazione. In particolare: il contenuto di un segmento non deve essere memorizzato in una zona contigua di memoria, ma in una serie di page frame piazzati ovunque si semplifica quindi il meccanismo di allocazione della memoria... Dimensione della pagina... Influenza sulla dimensione della memoria Se la dimensione della pagina S P è troppo grande, diventa eccessiva la frammentazione interna; se è troppo piccola diventa troppo costosa (come spazio) la page table. Detta S S la dimensione del segmento, si hanno dunque due overhead: quello dovuto alla frammentazione interna, pari a S P / quello dovuto alla page table, pari a S S/S P. L overhead complessivo per ogni segmento è quindi S=S P /+S S /S P Al fine di ottimizzare l occupazione della memoria occorre minimizzare S al variare di S P. ds/ds P = 0 ; / - S S /(S P ) = 0 S P OPT = ( S S ) a cui corrisponde una utilizzazione ottimale

14 u OPT =/(+ (/ S S ))... Influenza sulla hit ratio Si considerino accessi successivi in memoria, eseguiti l uno alla parola i, l altro alla parola i+d. La probabilità che ambedue gli accessi facciano riferimento a pagine già presenti in memoria è alta se: d è piccolo rispetto a S P : maggiore è S P, maggiore è tale probabilità d è grande rispetto a S P, ma la seconda parola cui si fa accesso appartiene ad una pagina frequentemente referenziata, e quindi si trova in memoria; minore è S P, maggiore è il numero di pagine in memoria, e maggiore è tale probabilità. Come conseguenza, quando S P cresce, H dapprima cresce, per poi arrivare ad un massimo e cominciare a decrescere. Studi sperimentali mostrano le curve tipiche del tasso di successo al variare della dimensione della pagina. Il valore di S P che massimizza il tasso di successo può essere molto più grande della dimensione di pagina ottima calcolata analiticamente. Poiché avere un buon tasso di successo influisce sui tempi di accesso (riducendo il numero di trasferimento tra disco e memoria principale) i valori che massimizzano H sono preferiti. Valori ragionevoli vanno da parole (Atlas, VAX-/780) a 096 (8086). H M M Se si raddoppia la dimensione della memoria il tasso di successo cresce a parità di dimensione della pagina. Se si hanno pagine piccole, si avranno tanti trasferimenti e dunque il rendimento è basso. Se si hanno pagine grosse il trasferimento di dati non utilizzati introduce overhead e si ha l occupazione delle memoria con dati non immediatamente utili. S P