I Thread. I Thread. I due processi dovrebbero lavorare sullo stesso testo

Transcript

1 I Thread 1 Consideriamo due processi che devono lavorare sugli stessi dati. Come possono fare, se ogni processo ha la propria area dati (ossia, gli spazi di indirizzamento dei due processi sono separati)? i dati possono essere scambiati mediante messaggi o tenuti in memoria condivisa i dati possono essere tenuti in un file che viene acceduto a turno dai due processi. Non sarebbe comodo poter avere processi in grado di lavorare automaticamente lavorare sugli stessi dati, senza usare meccanismi espliciti di condivisione/comunicazione, e senza usare file (che sono memorizzati su un supporto relativamente lento)? I Thread 2 Ad esempio, in un editor di testo: un processo gestisce l input e i comandi di formattazione dell utente un altro processo esegue il controllo automatico di errore I due processi dovrebbero lavorare sullo stesso testo La copia corrente del testo è mantenuta in MP, ma come fanno i due processi a condividere la stessa copia, se ogni processo ha un diverso spazio di indirizzamento? 1

2 I Thread 3 Il context switch tra processi richiede molto lavoro al SO: oltre a cambiare il contenuto dei vari registri, occorre disattivare le aree dati e di codice del processo uscente, e attivare quelle del processo entrante. Inoltre, le cache fisiche della CPU contengono i dati del vecchio processo, e il processo che entra in esecuzione genera inizialmente molti miss cache. Se due (o più) processi potessero condividere dati e codice, il context switch fra di loro sarebbe molto meno oneroso. Per soddisfare questo tipo di esigenza è nato il concetto di thread: un gruppo di peer thread è un insieme di processi che condividono lo spazio di indirizzamento (codice e dati) I Thread 4 Un normale processo è contraddistinto da un unico Thread (filo) di computazione: la sequenza di istruzioni eseguite (che ovviamente può cambiare da un esecuzione all altra, se cambiano, ad esempio, i dati di input). codice dati file registri stack thread 2

3 I Thread 5 Un processo Multi-Thread è fatto di più thread, detti peer thread. Un insieme di peer thread è detto task. Informazioni condivise I Thread 6 Ad ogni thread è associato in modo esclusivo il suo stato della computazione, fatto da: valore del program counter e degli altri registri della CPU uno stack Ma un thread condivide con i suoi peer thread: il codice in esecuzione i dati i file aperti 3

4 I Thread 7 Il context switch avviene anche tra ognuno dei peer thread che formano task, in modo che tutti possano portare avanti la computazione Ma il context switch fra peer thread richiede il salvataggio e il ripristino solo dei registri della CPU e dello stack (che sono diversi per ogni thread) Codice, dati e file aperti sono gli stessi per tutti, e non devono essere cambiati: il context switch tra peer thread è molto più veloce del context switch tra processi I Thread 8 Il context switch tra processi è molto più oneroso per il SO del context switch tra peer thread, perché nel primo caso sono coinvolte più informazioni da cambiare. Inoltre, a causa del sistema di caching, un processo mandato in esecuzione genera inizialmente molti più cache miss di un thread. Per questa ragione, i normali processi (quelli di cui abbiamo parlato fino ad ora) sono spesso chiamati: heavy-weight process (HWP) Mentre per un singolo thread è usato spesso il termine: light-weight process (LWP) 4

5 I Thread 9 Ma come si fa a distinguere tra i peer thread di un task (in modo da far fare a ciascuno una cosa diversa), se questi condividono lo stesso codice? con delle opportune system call, che all interno del codice permettono di creare i thread necessari, e specificano per ciascun thread quale pezzo di codice deve eseguire quel thread (un meccanismo simile a quello della fork) Altre system call permetteranno ai peer-thread di sincronizzarsi fra di loro (in modo simile a come i processi possono sincronizzarsi fra di loro usando i semafori). Scheduling dei thread 10 Come viene distribuito il tempo di CPU fra in vari peer thread all interno di un task, e tra i thread appartenenti a task diversi? Diverse (realizzazioni di) sistemi operativi compiono scelte implementative differenti. Uno stesso sistema operativo, può anche permettere all utente di specificare la politica di scheduling preferita per le proprie applicazioni che utilizzino i thread. 5

6 Scheduling: Thread a livello utente 11 Il SO non sa dell esistenza dei threads. Si dice che i thread esistono solo a livello utente. Il context switch da un peer thread all altro (all interno quindi dello stesso task) avviene mediante opportune funzioni di libreria chiamate all interno del codice dei thread stessi. Quando un thread sta per fermarsi, specifica prima quale peer thread deve proseguire la computazione Scheduling: Thread a livello utente 12 Il SO vede un task fatto di più thread come un normale processo, e gli assegna la CPU secondo il criterio di scheduling adottato per l intero sistema (ad esempio, RR). All interno del task, il tempo di CPU è suddiviso tra i vari peer thread a seconda del codice che eseguono. Se il codice di un thread è scritto male, e il thread si blocca senza farne partire un altro, tutto il tempo di CPU assegnato a quel task (e quindi a tutti i peer thread) viene sprecato 6

7 Scheduling: Thread a livello kernel 13 Il SO deve mantere delle strutture dati per gestire sia i normali processi che tutti i peer thread di un task Quando un thread si blocca volontariamente, o termina il suo quanto di tempo, è il SO che assegna la CPU: a un altro thread dello stesso task a un altro thread di un altro task a un altro processo normale Quindi il SO gestisce ogni singolo thread secondo il modello time-sharing Vantaggi nell uso dei thread 14 Efficienza: in Solaris, creare un nuovo LWP richiede circa 30 volte meno tempo che creare un HWP. Il context switch tra peer thread richiede 5 volte meno tempo del context switch tra processi Condivisione di dati e risorse: più thread possono lavorare su dati condivisi in maniera efficiente (ma devono sincronizzarsi in maniera adeguata) Uso di architetture con più CPU: i thread sono naturalmente adatti per lavorare in parallelo su più CPU che condividono la stessa MP, e su CPU multithreaded. 7

8 CPU/CORE multithreaded 15 Nei moderni processori, ogni singolo core è in grado di lanciare in esecuzione contemporaneamente fino a 4 o 5 istruzioni, che vengono eseguite in parallelo. Si parla di CPU multiple issue. Per poter eseguire in parallelo più istruzioni, ogni singolo core deve essere dotato di più unità funzionali: ALU e unità floating point. Si parla di CPU con architettura superscalare. (in realtà è ogni singolo core ad avere una struttura superscalare e a poter eseguire in parallelo fino a 4 o 5 istruzioni) CPU/CORE multithreaded 16 Tuttavia, ogni singolo core, superscalare e multiple issue, non riesce sempre ad avviare in parallelo il massimo di istruzioni possibile. Infatti, in un programma le istruzioni non sono indipendenti fra loro, ma in molti casi una istruzione A deve usare il risultato di una istruzione B. Di conseguenza A e B non possono essere eseguite in parallelo: A deve essere eseguita dopo B. Il risultato di queste dipendenze fra le istruzioni di un programma è che spesso il numero di istruzioni lanciate in parallelo è inferiore al massimo consentito da una certa architettura, e alcune unità funzionali rimangono inutilizzate. Tuttavia, le istruzioni appartenenti a peer thread sono quasi certamente indipendenti (infatti appartengono a thread diversi, anche se vedono lo stesso spazio di indirizzamento) 8

9 CPU/CORE multithreaded 17 Per sfruttare questa caratteristica ogni core di una CPU multithreaded può eseguire in parallelo istruzioni appartenenti a peer thread diversi, aumentando così il grado di parallelismo e la produttività della CPU. Si parla di SMT: Simultaneous Multi-Threading Ad ogni ciclo di clock inizia l esecuzione di nuove istruzioni. Se si possono eseguire istruzioni che appartengono a diversi peer thread, possiamo aumentare la produttività di ciascun core della CPU Clock cycles CPU superscalare Issue Slots SMT CPU/CORE multithreaded 18 Nei moderni processori, ogni core supporta l SMT, e può eseguire in parallelo di istruzioni appartenenti a due (o più) peer thread. Questo a volte genera un po di confusione nella definizione della CPU: il singolo core che implementa l SMT viene indicato come dual-threaded o come dual-core proprio per la sua capacità di eseguire in parallelo istruzioni appartenenti a thread diversi. Ma: dual-threaded significa che può eseguire in parallelo istruzioni appartenenti a due (o più) peer thread distinti. dual core significa che può eseguire in parallelo istruzioni appartenenti a due processi distinti, su un core vengono eseguire le istruzioni di un processo, e sull altro core le istruzioni dell altro processo. Naturalmente ciascun core può essere a sua volta dual threaded 9

10 CPU/CORE multithreaded 19 Processori come quelli della famiglia Intel i3 i7 sono CPU multicore, fino a 8, ciascuno dei quali è dual-threaded, cioè in grado di eseguire in parallelo istruzioni appartenenti a 2 peer thread. Altri processori sono progettati per favorire esplicitamente l esecuzione di applicazioni a thread: il SUN SPARC T3 Rainbow Fall è formato da 16 core, ciascuno dei quali è in grado di eseguire in parallelo le istruzioni di 8 peer thread. Domanda un po difficile. Nessuna CPU implementa una forma di Simultaneous MultiProcessing, in cui cioè istruzioni appartenenti a processi diversi vengono eseguite in parallelo all interno dello stesso core. Perché? 10