Il modello a thread : motivazioni

Transcript

1 Sistemi Operativi Giuseppe Prencipe Il modello a thread : motivazioni Nel modello a processi, ogni processo ha il suo spazio di indirizzamento privato ed il modo per interagire è quello di utilizzare i meccanismi di IPC messi a disposizione dal sistema Es.: send, receive Questo implica alti costi di interazione, se i dati da scambiare sono molti! 1 2 Scambio dati fra due processi Due processi diversi non hanno spazio di indirizzamento comune!!! Proc. P2 Stack1 Proc. P1 Stack2 Scambio dati fra due processi Come posso passare informazioni fra P1 e P2? Proc. P1 Stack1 Stack2 Proc. P2 dati1 1 dati2 2 dati1 1????????? dati2 2 Aree di memoria diverse! 3 4 1

2 Esempio: send-receive IPC -- Inter Processor Communication) Es.: send, receive Proc. P1 Proc. P2 Esempio: send-receive Una possibile implementazione : Il canale è una struttura dati del kernel snd e rcv sono due chiamate di sistema Proc. P1 Proc. P2 Stack1 Stack2 Stack1 Stack2 dati1 snd rcv dati2 dati1 snd rcv dati Esempio: send-receive Costi : Dati sono copiati almeno una volta dal processo mittente al processo destinatario Si paga : il cambio di con, l overhead delle chiamate di sistema per snd e rcv Proc. P1 Proc. P2 Esempio: send-receive Altra possibile implementazione : Il canale è un file speciale accessibile ai due processi snd e rcv corrispondono a chiamate di sistema che effettuano letture/scritture su un file il costo non migliora!!!!!!!!!!!!! Pipe in UNIX!!!! Proc. P1 Proc. P2 Stack1 snd dati1 1 rcv dati2 2 Stack2 Stack1 snd dati1 1 rcv dati2 2 Stack

3 Quindi : se i dati da scambiare sono molti avere spazi di indirizzamento separati è estremamente costoso! Il modello a thread: motivazioni Nel modello a processi, l attivazione di un processo, il cambio di con sono operazioni molto complesse che richiedono ingenti quantità di tempo per essere portate a termine Tuttavia a volte l attività richiesta ha vita relativamente breve rispetto a questi tempi Es.: invio di una pagina html da parte di un server Web troppo leggera per motivare un nuovo processo 9 10 Il modello a thread Idee di base dietro il modello a thread : permettere la definizione di attività leggere (lightweight processes -- LWP) con costo di attivazione e terminazione limitato possibilità di condividere lo stesso spazio di indirizzamento Ogni processo racchiude più flussi di controllo (thread) che condividono le aree e dati 11 (processo leggero lightweight process, LWP) Identificatore di thread Contatore di programma Insieme di registri Pila Condivide con gli altri thread che appartengono allo stesso processo Sezione codice Sezione dati Risorse di sistema (es.: file aperti) 12 3

4 Processo a singolo e multi thread Struttura di un processo mutithreaded Stack del thread T1 Stack del thread T2 Stack del thread T3 T2 T1 dati T3 13 Processo P1 (Multithreaded) 14 Di solito un applicazione svolge diversi compiti Es.: browser Rappresentazione sullo schermo di immagini e Reperimento dati nella rete Es.: elaboratore testi Rappresentazione grafica Lettura dati immessi da tastiera Correzione ortografica e grammaticale Es.: server Remote Procedure Call Se l applicazione fosse eseguita come un singolo thread (processo) Come si fa per fare tutto? Crea un processo per ogni attività... CAMBIO DI CONTESTO!!!! Molto costoso (implica un cambio dello spazio di indirizzamento, copia di vari dati, ecc...)

5 Il modello a thread Se un processo P1 ammette un singolo thread di controllo lo stato di avanzamento della computazione di P1 è determinato univocamente da : valore del PC (prossima istruzione da eseguire) valore di SP/PSW e dei registri generali contenuto dello Stack (ovvero storia delle chiamate di funzione passate) stato del processo : pronto, in esecuzione, bloccato stato dell area e dati stato dei file aperti e delle strutture di IPC utilizzate 17 Il modello a thread Se un processo P1 più thread di controllo Lo stato di avanzamento della computazione di ogni thread è dato da : valore del PC (prossima istruzione da eseguire) valore di SP/PSW e dei registri generali contenuto dello Stack privato di quel thread stato del thread : pronto, in esecuzione, bloccato Sono invece comuni a tutti i thread : stato dell area e dati stato dei file aperti e delle strutture di IPC utilizzate 18 Il modello a thread Il modello a thread Quindi, lo stato di avanzamento di un processo multithreaded è dato da lo stato di avanzamento di tutti i suoi thread stato dell area e dati stato dei file aperti e delle strutture di IPC utilizzate Condiviso da tutti i thread di un processoprivato a ogni thread Privato a ogni thread

6 Word processor con 3 threads Uso dei thread Applicazioni che : possono essere suddivise in più flussi di controllo interagiscono molto strettamente la condivisione dello spazio di indirizzamento e delle altre risorse permette di interagire senza pagare copie e cambi di con 21 Comunica con l utente Formatta il Salva su dico 22 Struttura di un word processor multithreaded Struttura di un word processor multithreaded Legge i caratteri da tastiera e visualizza StackT1 StackT2 T2 Formatta il Legge i caratteri da tastiera e visualizza T2 Formatta il disco T1 dati T3 StackT3 T1 dati T3 Salva periodicamente su disco tastiera Salva periodicamente su disco

7 Un web server multithreaded Dispatcher T1 Un web server multithreaded Dispatcher All arrivo di una nuova richiesta dalla rete : - il dispatcher CREA un nuovo thread worker che controlla se la pagina sta nella cache, e altrimenti va a leggere la pagina da disco Connessione di rete (Network) Cache (pagine richieste recentemente) 25 Connessione di rete (Network) Processo Web Server WEB Cache (pagine richieste recentemente) 26 Un web server multithreaded Disco/i Un web server multithreaded Dispatcher Connessione di rete (Network) work1 work2 WEB Cache (pagine richieste recentemente) 27 Dispatcher work1 work2 Ogni worker 1) legge le informazioni su cache o disco 2) aggiorna la cache 3) risponde alla richiesta, 4) TERMINA 28 7

8 Un web server multithread Un web server multithreaded Dispatcher riceve le richieste Dispatcher sceglie un worker Worker controlla la cache 29 Possibile struttura del codice del web server (a) dispatcher thread (b) worker thread buf e page sono appropriate strutture per memorizzare le pagine web 30 Vantaggi Tempo di risposta Maggiore interattività Condivisione delle risorse Tutti i thread condividono memoria e risorse Economia Minore costo del cambio di con Uso di più unità d elaborazione Molti vantaggi nelle macchine parallele (thread eseguiti in parallelo) 31 Implementazione dei thread Ogni thread è descritto da un descrittore di thread : thread identifier (tid) PC, SP, PCW, registri generali info sulla memoria occupata dallo stack privato del thread stato del thread (pronto, in esecuzione, bloccato) processo di appartenenza (pid, process identifier) 32 8

9 Implementazione dei thread table : tabella che contiene i descrittori di thread simile della process table se ne può avere una unica nel kernel o una privata di ogni processo Possono essere realizzati da : librerie che girano interamente in stato utente (user level thread) all interno del kernel (kernel level thread) User level thread Realizzati da una libreria di normali funzioni che girano in modo utente thread_create(), thread _exit(), thread_wait() Strato sopra il nucleo Il SO e lo scheduler non conoscono l esistenza dei thread e gestiscono solamente il processo intero Lo scheduling dei thread viene effettuato dal run time support della libreria User level thread La thread table è una struttura privata del processo C è una TT per ogni processo I thread devono rilasciare esplicitamente la CPU per permettere allo scheduler dei thread di eseguire un altro thread thread _yield () User level thread St1 T1 St2 T2 RTS Tabella dei processi St3 T3 dati table Spazio Utente Spazio Kernel

10 User level thread User level thread Quando un thread esegue un chiamata di sistema e si blocca in attesa di un servizio tutto il processo a cui appartiene viene bloccato Es.: nel web server una qualsiasi lettura da disco blocca tutti i thread! Addio parallelismo... Problemi di scheduling: un thread in esecuzione non può essere interrotto a meno che non rilasci esplicitamente la CPU Blocco di tutto il sistema in caso di SC bloccante!!!! Esempi POSIX Pthreads Mach C-threads Solaris threads Kernel level thread Kernel level thread table unica (nel kernel) Le primitive che lavorano sui thread sono system call thread_create(), thread _exit(), thread_wait()... Non è necessario che un thread rilasci esplicitamente la CPU Le system call possono bloccarsi senza bloccare tutti i thread di quel processo table St1 St2 St3 T1 T2 Tabella dei processi T3 dati Spazio Utente Spazio Kernel

11 Kernel level thread Kernel level thread Implementati nel nucleo Il nucleo fornisce un insieme di SC che supportano i thread Esempi - Windows 95/98/NT/ Solaris - Tru64 UNIX - BeOS - Linux User level thread vs kernellevel thread User level Creazione di thread e thread switch molto veloce Si può effettuare uno scheduling personalizzato, dipendente dall applicazione Gestione problematica delle system call bloccanti librerie di SC non bloccanti Kernel level Buona gestione delle SC bloccanti Cambio di con più lento (SC al nucleo) Creazione e terminazione thread più lenta (SC al nucleo) Modelli ibridi table K St1 T1 St2 T2 RTS St3 T3 dati Tabella dei processi table U Spazio Utente Spazio Kernel

12 Modelli ibridi Modelli di programmazione multithread Da molti a uno Molti thread a livello utente corrispondono a un singolo thread a livello del nucleo Gestione dei thread nello spazio utente L intero processo si blocca se un thread invoca una SC bloccante Green threads Solaris Molti a uno Modelli di programmazione multithread Da uno a uno Fa corrispondere a ciascun thread a livello utente un thread a livello del nucleo Maggiore grado di concorrenza Se un thread invoca una SC bloccante, è possibile eseguire un altro thread (perchè??) La creazione di ogni thread utente comporta la creazione di un thread a livello del nucleo Per ovviare all overhead, si limita il numero max di thread gestibili dal sistema Windows NT e Windows

13 Modelli di programmazione multithread Molti a molti Da molti a molti Mette in corrispondenza più thread del livello utente con un numero minore o uguale di thread del livello del nucleo Concorrenza e nessun limite sul numero di thread In caso di SC bloccante?? UNIX, Solaris2, Windows NT/2000 with the pacchettofiber fork e exec Se un thread invoca una fork il nuovo processo contiene un duplicato del solo thread invocante o di tutti i thread del processo Se un thread invoca una exec Il programma specificato come parametro sostituisce il processo (inclusi i thread) Se si invoca la exec immediatamente dopo la fork, conviene duplicare? 51 Cancellazione Cancellare un thread serve a far terminare un thread prima che completi il suo compito Es.: diversi thread stanno effettuando una ricerca su un DB, uno di essi riporta il risultato e tutti gli altri vengono cancellati Es.: terminazione del caricamento di una pagina web Un thread da cancellare è spesso detto thread bersaglio 52 13

14 Cancellazione Asincrona Un thread fa immediatamente terminare il thread bersaglio Differita Il thread bersaglio controlla periodicamente se deve terminare Tipicamente esiste un thread che segnala la necessità di cancellare un certo thread bersaglio Problemi possono nascere se il thread ha assegnate delle risorse Es.: thread viene cancellato mentre aggiorna dati che condivide con altri thread 53 Gestione dei segnali I segnali si usano per comunicare ai processi il verificarsi di determinati eventi All occorrenza di un particolare evento si genera un segnale S invia il segnale al processo Una volta ricevuto, si gestisce il segnale Gestore predefinito Gestore definito dall utente Segnali possono essere sincroni, o Es.: divisione per zero Si inviano allo stesso processo che ha causato l operazione che ha generato il segnale Asincroni Es.: Scadenza temporizzatore, terminazione processo con combinazione di tasti Di solito si inviano a un altro processo 54 Gestione dei segnali Per i processi a singolo thread, la gestione è semplice: si fa riferimento al processo interessato Con il multithread Si invia il segnale al thread interessato Si invia il segnale a ogni thread del processo Si invia il segnale a specifici thread del processo Si definisce un thread specifico per ricevere tutti i segnali diretti al processo Il metodo scelto dipende dal tipo di segnale 55 Gruppi di thread Web server Crea un nuovo thread per ogni richiesta non si pone un limite al numero di thread attivi nel sistema Gruppi di thread Alla creazione di un processo, si crea un certo numero di thread organizzati in gruppo Quando il server riceve una richiesta, la invia a uno dei thread del gruppo ( Se ne esiste uno disponibile OK; else, ne attende uno disponibile Vantaggi Gestione più rapida: perchè???? Il thread già esiste!! Limite al numero di thread nel sistema Numero di thread per gruppo determinate tramite euristiche e/o dinamicamente 56 14

15 Pthreads Solaris 2 Standard POSIX che definisce l API (Application Program Interface) per la creazione e la sincronizzazione dei thread Non è una realizzazione Librerie Pthreads esistono per UNIX Es. a pag. 144 del libro di (in C) Processi Solaris Windows 2000 Implementa il modello uno a uno 59 Ogni thread contiene - thread id - insieme di registri - stack utente e kernel separati - area privata di memorizzazione dati 60 15

16 Linux Linux li chiama tasks La creazione avviene tramite la SC clone() Clone() permette al task figlio di condividere lo spazio di indirizzi del task padre in Java Permette la gestione dei thread a livello di linguaggio di programmazione Sono gestiti dalla JVM (non da una libreria a livello utente o nucleo) Tutti i programmi Java prevedono almeno un thread di controllo in Java Creazione thread tramite classe Esecuzione tramite metodo run() Il metodo start invocato all interno del processo chiamante crea effettivamente il nuovo thread Assegnazione memoria e inizializzazione di un nuovo thread nella JVM Chiamata del run, che rende il thread disponibile a essere esguito dalla macchina virtuale NOTA: run non viene mai chiamato esplicitamente, ma sempre tramite start Es. Pag. 150 del libro di : quanti thread vengono creati? Come i thread Java vengono implementati nel SO dipende da come la JVM è implementata Windows: uno a uno, Solaris: molti a molti 63 Per oggi basta!!!! 64 16