Organizzazione hw. Obbiettivo di progetto: migliorare le prestazioni del sistema mantenendo contenuti i costi

Transcript

1 Sistemi Distribuiti Esempi di applicazioni comunicazione di dati fra terminali di un sistema di elaborazione - fra sistemi di elaborazione sistemi distribuiti o centralizzati es. packed-switched networks (Arpanet, Datapac, Transpac, Telnet) comunicazione con vincoli (magazzini, carte di credito) condivisione di risorse es.: office automation identificazione - protezione - gestione della intercomunicazione controllo di processi microprocessori per controllo e monitor basi di dati distribuite partizionamento o replicazione - località - integrità controllo degli accessi -affidabilità - sicurezza Organizzazione hw Obbiettivo di progetto: migliorare le prestazioni del sistema mantenendo contenuti i costi Sistema centralizzato: aumentare la velocità (ciclo) della - limite fisico: velocità della luce - segnale elettrico può percorrere 30 cm/ns nel vuoto 20 cm/ns su rame => dato il ciclo di se un elaboratore esegue 1 istruzione in 1 ns, la massima distanza che un segnale può coprire da a memoria è 20cm Sistema distribuito: diverso modello di esecuzione diversi modelli varie classificazioni classificazione di Flynn (1972) Sistemi distribuiti - architetture Flusso di istruzioni singolo multiplo Flusso dei dati SIMD array processor MIMD singolo SISD MISD multiplo SIMD MIMD sistemi distribuiti stesso calcolo su molti dati SD2.2 SD2.3 SISD SIMD MIMD Modello von Neuman - singolo flusso di istruzioni (programma) eseguito da una e con una memoria contenente i dati - FETCH, DECODE, EXECUTE ogni singola istruzione nella sequenza Strategie di accelerazione del ciclo - parallelismo (limitato) : uso di molte ALU specializzate che eseguono ogni singola operazione ad alta velocità (es. +, x,) - pipelining : DECODE di istruzione y contemporaneo a FETCH di istruzione y+1, EXEC di y - uso di gerarchie di memoria (livelli di cache) - uso di hw specializzato Esecuzione in parallelo su un insieme di dati Architettura vettoriale anziché una singola ALU che opera su una singola variabile per ogni input, si ha un vettore di ALU che opera su un vettore di valori di input produce un vettore di output (esegue operazioni su vettori) Array processor - matrice di elementi processore/memoria - singola unità di controllo che esegue il broadcast di una singola istruzione a tutti i processori - ogni processore esegue l istruzione sui dati disponibili in memoria locale (esegue operazioni su matrici) NOTA: in entrambi i casi utilizza un singolo PC (program counter) e Nota distinte eseguono differenti programmi (multiple instruction stream) su flussi di dati distinti (multiple data stream) dotate di proprio Program Counter, memoria, dati, programmi, cooperano per svolgere e fornire un servizio comune => macchina MIMD = sistema distribuito - in alcune configurazioni le possono condividere dati collocati in memoria comune accessibile via bus di sistema (multiprocessor) - gli accessi concorrenti alla memoria comune possono creare conflitti nell accesso al bus => uso di memoria locale privata (cache) per ogni, contenente codice e dati da non condividere, minimizzando gli accessi alla memoria comune Esempio: sistema di prenotazione aerea: richieste multiple di prenotazione (multiple data stream) che possono essere servite concorrentemente (multiple instruction stream) da un insieme di che condividono la pianta dell aereo e ne tengono aggiornato lo stato. SD2.4 SD2.5 SD2.6 1

2 Sistemi distribuiti - architetture Multiprocessori a bus Multiprocessori a bus: coerenza della memoria Multiprocessore memoria condivisa accoppiamento stretto ritardo di trasmissione breve velocità di trasmissione alta Multicalcolatore memoria locale privata accoppiamento lasco maggiore ritardo di trasmissione minore velocità di trasmissione insieme di U.E. interconnesse da una rete di interconnessione Bus dati, indirizzo, controllo 32 o 64 linee indirizzi, 32 o 64 linee dati, almeno 32 linee controllo parallele banda 300 Mbps limite tipico per le prestazioni:4/5 Condivisione della memoria Problema: coerenza al tempo t la A scrive il valore x all indirizzo di memoria y al tempo t >t la B legge il valore x dall indirizzo di memoria y U.E. elaborazione, memorizzazione Rete di comunicazione Architettura: a bus -a commutazione Lettura da memoria: scrive l indirizzo di parola richiesta sul bus indirizzi conferma il comando di lettura via CNTRL memoria scrive il dato su linee dati Coerenza costosa da implementare => sovraccarico del bus Soluzione basata sulla memoria cache mantenere parole accedute più recentemente hit rate: probabilità di successo, se la parola cercata è nella m. cache (es.:90%) SD2.7 SD2.8 SD2.9 Multiprocessori a bus Multiprocessori a commutazione Multiprocessori a commutazione: Omega network coerenza: possibile soluzione scrittura attraverso la cache, ogni scrittura nella m.c. è riportara in memoria (write-through cache) tutte le controllano eventuali scritture e nel caso eliminano o aggiornano la parola (snoopy cache) meccanismo trasparente all'utente - limite tipico per le prestazioni:32/64 Memoria multimodulare Connessione a crossbar Crosspoint interruttore (switch) Svantaggio:costo n memorie ed n richiedono n 2 switches Altre architetture commutatore di crosspoint (es. n=64, 4096 switch) n memorie ed n richiedono (n/2 log n) switches Vantaggio: accesso diretto di ogni ad ogni modulo Svantaggio: maggior ritardo di comunicazione: log n stati di switching ogni stadio ha n/2 switch Esempio: n=1024, 10 stadi di switch per trasmettere da a memoria e 10 stadi per la trasmissione inversa; se la è una RISC con tempo di esecuzione di 10 ns i 20 switch devono essere attraversati da meno di 10 ns => ogni switch 10ns/2=0.5 ns= 500 picosec=> occorrono 1024x10=5120 CS da 500 picosec => costo elevato SD2.10 SD2.11 SD2.12 2

3 Multiprocessori a commutazione: Omega network Multiprocessori a commutazione: Omega network Multiprocessori a commutazione: NUMA NUMA Not Uniform Memory Access Memoria Memoria Ogni ha una memoria locale: - accesso veloce alla memoria locale - più efficienti - problemi di allocazione ottima di dati e programmi Multiprocessor Snoopy cache Limitati dalla capacità del bus (max 64 ) Crossbar switch Costoso Omega Network Costoso NUMA Complessità degli algoritmi di allocazione di+ programmi e dati Esempio: n=8, 3=log 8 livelli di switch per trasmettere da a memoria Esempio: n=16, 4 livelli di switch per trasmettere da a memoria SD2.13 SD2.14 SD2.15 Multicalcolatore a bus Multicalcolatore a commutazione Multicalcolatore a commutazione Workstation ML Workstation ML Diverse topologie Es. Griglia (struttura bidimensionale) Es. Ipercubo:cubo ad 4 dimensioni Ogni ha 4 link Ipercubo commerciale File Server Senza memoria condivisa Traffico limitato Espandibilità Protocolli di rete Rete ML Memoria locale Printer Es. Ipercubo:cubo ad n dimensioni Ogni U.E. è un vertice, gli spigoli sono connessioni Ogni U.E. ha n connessioni Crescita logaritmica delle connessioni Trasmissione anche in più passi Limite logaritmico al numero di passi con n SD2.16 SD2.17 SD2.18 3

4 Multicalcolatore a commutazione Multiprocessori e multicalcolatori a commutazione: altre soluzioni Es. Ipercubo: cubo ad 6 dimensioni Ogni ha 6 link Sistemi a parallelismo massiccio supercomputer con migliaia di bassa latenza e alta banda buona affidabilità Sistemi a cluster di workstations (COW) U.E. connesse con componenti disponibili ( off the shelf ) nessun accorgimento specifico per ottimizzare prestazioni e affidabilità Sistemi Operativi (OS) OS per un sistema uniprocessore OS per un sistema multiprocessore: MOS OS per un sistema distribuito: DOS OS per la gestione della rete in un sistema distribuito: NOS SO per un sistema di elaborazione uniprocessore gestione delle risorse condivisione delle risorse insieme di utenti (processi) sistema con memoria condivisa globale singola coda di processi pronti ed eseguibili possibile attesa attiva stato o modo di operazione nucleo vs utente modello di macchina virtuale modelli di OS microkernel monolitico SD2.19 SD2.20 SD2.21 Classificazione Accoppiamento lasco: S.O. di rete, interazione lasca Accoppiamento stretto: S.O. per multiprocessori e multicalcolatori Classificazioni Accoppiamento stretto/lasco Multicalcolatore/multiprocessore A bus/a commutazione modelli di OS microkernel Accoppiamento lasco (loosely-coupled DOS) macchine, utenti, programmi indipendenti fra loro condividono uso di risorse costose ogni U.E. è identificabile ed è in grado di operare indipendentemente dagli altri (e.g, un guasto di rete non blocca l operatività della singola U.E.) Accoppiamento stretto (tightly-coupled DOS) macchine indipendenti coordinate da un controllore Multicalcolatore Multicalcolatore Multiprocessore sw ad accoppiamento lasco sw ad accoppiamento stretto (es su LAN con DOS) sw ad accoppiamento stretto (es MPC con OS) Es. SO distribuito: sw ad accoppiamento stretto su hw ad accoppiamento lasco s.d. senza memoria condivisa gli utenti vedono il sistema come un solo ambiente (uniprocessore virtuale) meccanismi globali per comunicazione - protezione - file system - gestione di memoria locale Es. SO a multiprocessori: sw ad accoppiamento stretto su hw ad accoppiamento stretto sistema con memoria condivisa globale singola coda di processi pronti ed eseguibili possibile attesa attiva SD2.22 SD2.23 SD2.24 4

5 Es. SO di rete su multicalcolatori: sw ad accoppiamento lasco su hw ad accoppiamento lasco sistema operativo di rete (NOS - Network Operating System) rete di UE ognuna dotata di memoria,, OS, periferiche tutti i comandi sono eseguiti localmente l esecuzione di comandi in remoto richiede la visibilità all utente della locazione di risorse Esempio: rlogin ihoh UE usata come terminale remoto di ihoh i comandi inviati dalla UE sono eseguiti sulla macchina remota ad ogni istante una sola macchina è in esecuzione la selezione delle macchine è manuale => l utente deve conoscere l esistenza e disponibilità delle macchine Esempio: rcp ihoh:file1 squit:file2 copia file1 da ihoh a squit l utente deve sapere che file1 è nel FS di ihoh e che squit ha un FS in cui deposita file1 con nome file2 SD2.25 SD2.26 Due clienti e un servente in un NOS Esempio da A. Tanenbaum Sistemi Distriibuiti SD2.27 Diversi clienti possono montare i serventi in diverse parti Esempio da A. Tanenbaum Sistemi Distriibuiti SD2.28 NOS V0 NOS V1 - evoluzione di NOS V forme primitive di comunicazione e condivisione risorse - include File Server(s) condiviso(i) che gestisce(cono) file system globale - FS accetta le richieste da ogni programma sulla UE (read, write, open, close) - ogni richiesta è esaminata e servita e il risultato trasmesso al chiamante - FS mantiene un file system gerarchico - UE può montare arbitrariamente parte del file system globale nel proprio fs locale - diverse viste di utenti possibili - stesso programma eseguito su diverse UE può lavorare su gerarchie diverse - la comunicazione fra processi applicativi può avvenire tramite file condivisi SD implementazione di programmi distribuiti richiede attenzione a manipolazione ed uso di nomi di risore Es: FS mantiene file systems con path /public/work/file1 UE monta o importa file1 in /home/work/file1 il programma applicativo eseguito su UE contiene il nome esplicito fd=open( /home/work/file1,r); non portabile, ovvere eseguibile solo su quella UE e non sul File Server NOS V1 gestisce comunicazioni fra UE e FS - le UE possono eseguire sotto diversi OS - NOS V1 deve garantire concordanza almeno del FORMATO dei messaggi scambiati delle REGOLE secondo cui devono essere scambiati (standard dei PROTOCOLLI) - NON effettua coordinamento di attività ed esecuzione di programmi - NON maschera o nasconde l eterogeneita dei SO SD2.30 5

6 DOS - sw ad accoppiamento stretto su hw ad accoppiamento lasco DOS - Distributed Operating System implementa l astrazione di un singolo sistema time-sharing (single system image, virtual processor) su un insieme di macchine anche eterogenee interconnesse e operanti sotto lo stesso sistema operativo Trasparenza: gli utenti (programmi) non hanno visibilità della distribuzione delle risorse - IPC comune supporta le interazioni fra ogni coppia di processi - protezione globale combinazione di schemi (es. lista di controllo, capabilities, bit di protezione) maggiore complessità - gestione di processi identica su ogni macchina (es. set di primitive, create, destroy, start, suspend,) - file system vista identica da ogni macchina - interfaccia di sistema identica su ogni macchina (stesso nucleo, più semplice coordinamento es.: start, i nuclei cooperano per decidere dove eseguire un processo) DOS - sw ad accoppiamento stretto su hw ad accoppiamento lasco Ogni nucleo ha controllo sulle risorse locali - non vi è memoria condvisa, ogni UE gestisce la memoria locale - eventuale uso di paging e/o swapping localmente - se vi è multiprogrammazione ogni nucleo gestisce lo scheduling locale => se la gestione fosse globale occorrerebbe la nozione di stato globale del sistema distribuito, solitamente non realizzabile Sistemi multicalcolatori omogenei vs sistemi eterogenei Sistemi omogenei: DOS Sistemi eterogenei: Middleware Middleware SD2.31 SD2.32 SD2.33 Applicazione Middleware Interfaccia Protocollo comune Applicazione In un sistema distribuito aperto basato sul middleware i protocolli usati in ogni strato middleware dovrebbero essere gli stessi middleware, come le interfacce offerte alle applicazioni DOS - sw ad accoppiamento stretto su hw ad accoppiamento lasco MOS - sw ad accoppiamento stretto su hw ad accoppiamento stetto Multiprocessor Operating System - MOS - special purpose: macchina data base - general purpose: time sharing OS (es. UNIX) su multiprocessore Caratteristica: coda di esecuzione UNICA (globale) struttura dati mantenuta da MOS in memoria condivsa e contenente processi in stato di ready X Processo A cache Y Processo B cache... Z Processo C cache Memoria E ready D ready C running B running A running RUN Q: D,E MOS SD2.34 SD2.35 SD2.36 6

7 MOS - sw ad accoppiamento stretto su hw ad accoppiamento stetto Scheduling Esempio: - il processo B in Y blocca - Y lo sospende e cerca un nuovo processo in RUN Q - Y esegue MOS allocato in memoria condivisa - salva lo stato di B - entra nella regione critica per eseguire lo scheduler - evita a diverse di prelevare lo stesso processo - controlla la mutua esclusione della coda - ottenuto l accesso esclusivo a RUN Q, la Y - rimuove il processo D da RUN Q - esce dalla regione critica - esegue D Nota - nella cache inizialmente ci sono dati e istruzioni di B, per cui D è inizialmente penalizzato - allocazione dei processi: le non hanno ML per cui non ha importanza chi lo esegue, ma il tempo di esecuzione è influenzato dalla presenza dei dati e programmi in cache => conviene allocare il processo alla libera che più recentemente lo ha eseguito MOS - sw ad accoppiamento stretto su hw ad accoppiamento stetto File System MOS tradizionale con caching di blocco - accesso al File System causa MOS trap - MOS entra nella regione critica (con semafori, monitor,) - esegue la system call escludendo le altre dall accesso ai dati condivisi Es: write (fd,&buff,nbytes) - lock di blocco nel file identificato da fd - scrive nbytes da buff in blocco locked - rilascia il lock Organizzazione di MOS con dedicata ad eseguire MOS e altre riservate ad applicativi svantaggio: MOS diventa collo di bottiglia Confronto Organizzazione sw per n macchine Categoria NOS DOS - Middleware MOS Trasparenza NO SÌ - SÌ (alta) SÌ Stesso OS NO SÌ - NO SÌ Copie di OS n n 1 Comunicazione file condivisi messaggi- dip. mod. memoria condivisa Protocolli di comunicazione SÌ SÌ - dip. modello NO comuni RUN Q singola NO NO SÌ Condivisione di file con non necessariamente SÌ SÌ semantica comune Scalabilità SÌ Moderata - dip. mod. NO Openess aperto chiuso - aperto chiuso SD2.37 SD2.38 SD2.39 Sistemi distribuiti - Progetto 1/2 Sistemi distribuiti - Progetto 2/2 trasparenza immagine di un singolo sistema, time-sharing uniprocessore * della localizzazione delle risorse: dove sono? * alla migrazione delle risorse: cambiamenti di localizzazione * alla replicazione dei file: quante copie? * alla concorrenza fra utenti: accesso a risorse condivise * al parallelismo: attività eseguibili in parallelo flessibilità * kernel monolitico s.o. centralizzato + opzioni di rete e servizi remoti * microkernel comunicazione fra processi - gestione memoria gestione processi e schedulazione a basso livello I/O a basso livello più flessibile affidabilità disponibilità (Availability): fraz. di tempo in cui il sistema è utilizzabile, funzionante ridondanza: tecnica per aumentare A consistenza fra copie multiple sicurezza tolleranza ai guasti (fault tolerance) prestazioni metriche: tempo di risposta, throughput, utilizzo, banda, caratterizzazione del carico colli bottiglia load balancing definizione della grana (fine o grossa) di parallelismo scalabilità grande dimensioni evitare componenti, dati e algoritmi centralizzati SD2.40 SD2.41 7