Multiprogrammazione. Sistemi Operativi Giuseppe Prencipe. Scheduling dei processi Scheduling. Sequenza di CPU e I/O burst.

Transcript

1 Sistemi Operativi Giuseppe Prencipe Scheduling della CPU Multiprogrammazione Obiettivi (????) Avere sempre processi in esecuzione per massimizzare l utilizzo della CPU IDEA alla base della MultiP (????) Un processo è in esecuzione finché non deve attendere un evento Durante l attesa la CPU NON resta inattiva, e si esegue un nuovo processo tra quelli pronti 1 2 Scheduling dei processi Scheduling Lo scheduler si occupa di decidere quale fra i processi pronti può essere mandato in esecuzione L algoritmo di scheduling ha impatto su: prestazioni percepite dagli utenti efficienza nell utilizzo delle risorse della macchina Lo scheduling ha obiettivi diversi in diversi sistemi (batch, interattivi ) NOTA: quasi tutte le risorse del calcolatore vengono sottoposte a scheduling 3 4 Scheduling Osservazione: i processi si alternano fra due stati Ciclo d elaborazione Attesa completamento I/O Sequenza di CPU e I/O burst L ultima sequenza di operazioni della CPU si conclude con una richiesta di terminare l esecuzione (come????) 5 6 1

2 Diagramma delle durate delle sequenze di operazioni della CPU Tipi di processi P1 Lungo burst di CPU Corto burst di CPU Attesa completamento i/o P2 tempo Curva di frequenza -- durata della sequenza 7 Processi compute bound (P1) and I/O bound (P2) 8 Tipi di processi Tipi di processi P1 P1 P2 P2 tempo tempo Priorità ai compute bound 9 Priorità agli I/O bound il funzionamento del sistema è più bilanciato 10 Tipi di processi Due tipologie di processi : processi CPU-bound -- lunghi periodi di eleborazione fra due richieste successive di I/O processi I/O-bound -- brevi periodi di elaborazione fra due richieste successive di I/O Scheduler della CPU Quale scheduler si occupa dello scheduling della CPU? Breve termine!!!! La coda dei processi pronti può essere realizzata in vari modi, a seconda del tipo di algoritmo usato dallo scheduler Coda in ordine d arrivo (FIFO First In First Out) Coda con priorità Albero Lista concatenata non ordinata... Gli elementi delle code sono generalmente i PD

3 Tipi di scheduling Lo scheduler della CPU può interevnire quando un processo Passa da esecuzione attesa (esempio?) Richiesta I/O o attesa terminazione figli Passa da esecuzione pronto (esempio?) Al verificarsi di un interrupt Passa da attesa pronto (esempio?) Completamento I/O termina 13 Tipi di scheduling Lo scheduler della CPU può interevnire quando un processo Passa da esecuzione attesa (esempio?) Richiesta I/O o attesa terminazione figli Passa da esecuzione pronto (esempio?) Al verificarsi di un interrupt Passa da attesa pronto (esempio?) Completamento I/O termina Nessuna scelta di scheduling: si esegue un processo tra i pronti (scheduling senza diritto di prerilascio non preemptive) 14 Tipi di scheduling Lo scheduler della CPU può interevnire quando un processo Passa da esecuzione attesa (esempio?) Richiesta I/O o attesa terminazione figli Passa da esecuzione pronto (esempio?) Al verificarsi di un interrupt Passa da attesa pronto (esempio?) Completamento I/O termina Va fatta una scelta di scheduling: (scheduling con diritto di prerilascio preemptive) 15 Tipi di scheduling Scheduling senza prerilascio lo scheduler interviene solo quando un processo viene creato, termina o si blocca su una SC Scheduling con prerilascio lo scheduler può intervenire ogni volta che è necessario per ottenere gli obiettivi perseguiti quando diventa pronto un processo a più alta priorità rispetto a quello in esecuzione quando il processo in esecuzione ha sfruttato la CPU per un tempo abbastanza lungo 16 Problemi con prerilascio Due processi condividono dati, e mentre uno li aggiorna si ha il suo prerilascio Necessari meccanismi per coordinare l accesso a dati condivisi Durante il servizio di una SC, il nucleo può aggiornare/modificare dati del nucleo (ad es. coda di I/O) per conto del processo invocante. Se avviene il prerilascio del processo: probelmi!!!! Alcuni SO attendono il completamento della SC o bloccano I/O prima che possa avvenire un cambio di contesto. Quindi non si ha prerilascio se le strutture dati del nucleo sono incoerenti Le interruzioni si possono verificare in ogni istante Le sezioni di codice delle procedure di servizio delle interruzioni devono essere protette da un uso simultaneo Tipicamente, l inizio della procedura di servizio consiste nel disattivare le interruzioni e le riattiva quando termina 17 Dispatcher È il modulo che passa il controllo della CPU al processo scelto dallo scheduler Si occupa Del cambio di contesto Del passaggio al modo utente Dei saltare alla giusta posizione del programma utente per riavviarne l esecuzione Si attiva a ogni cambio di contesto deve essere rapido, per diminuire il più possibile la latenza di dispatch 18 3

4 Scheduling Diversi algoritmi di scheduling hanno proprietà differenti Criteri per confrontare algoritmi di scheduling Utilizzo CPU Produttività (throughput): numero di processi completati nell unità di tempo Tempo di completamento (turnaround time): intervallo che intercorre tra la sottomissione del processo e il suo completamento Tempo d attesa: somma dei tempi passati nella coda dei processi pronti Tempo di risposta: tempo tra la sottomissione di una richiesta e la prima risposta prodotta 19 Scheduling Obiettivi principali degli Algoritmi di Scheduling: Fairness (Equità) - processi della stesso tipo devono avere trattamenti simili Balance (Bilanciamento) - tutte le parti del sistema devono essere sfruttate (CPU, dispositivi ) 20 Tipi di Scheduling First come, fisrt served (FCFS) Scheduling in ordine d arrivo Si realizza con una coda di PD Quando un processo entra in coda, diventa l ultimo elemento della coda Si estraggono elementi dalla testa Tempi d attesa medi abbastanza lunghi Process Burst Time P 1 24 P 2 3 P 3 3 Assumiamo che i processi arrivino nell ordine: P 1, P 2, First come, fisrt served (FCFS) P 3 Lo schema di Gantt per lo schedule FCFS è 0 P 1 P 2 P Tempo d attesa per P 1 = 0; P 2 = 24; P 3 = 27 Tempo d attesa medio: ( )/3 = First come, fisrt served (FCFS) Se i processi arrivassero nell ordine P 2, P 3, P 1 (????) Lo schema di Gantt è 0 P 2 P Tempo d attesa per P 1 = 6; P 2 = 0 ; P 3 = 3 Tempo d attesa medio: ( )/3 = 3 Molto meglio!!!! Si può avere l effetto convoglio P

5 FCFS: effetto convoglio Si crea quando i processi CPU bound hanno priorità su quelli I/O bound (cosa che capita con FCFS) Es.: un processo CPU bound e tanti I/O bound Man mano che i processi entrano nel sistema, il processo CPU bound occupa la CPU Gli altri processi, terminano I/O e entrano in pronto: dispositivi I/O inattivi Il processo CPU bound esegue un I/O Tutti gli altri processi eseguono rapidamente le operazioni CPU e tornano alle code I/O, Effetto convoglio Tutti i processi attendono che un lungo processo liberi la CPU La situazione migliorerebbe (come risulta dall esempio fatto con i 3 processi) se si dà priorità ai processi brevi NOTA: Con l FCFS non si ha prerilascio lasciando inattiva la CPU Shortest Job First (SJF) Associa ad ogni processo la lunghezza della sua prossima sequenza CPU (CPU burst). Queste lunghezze vengono usate per dare priorità ai processi brevi 2 schemi Senza prerilascio quando la CPU viene assegnata a un processo, non viene prerilasciato fino al termine della sequenza Con prerilascio se arriva un processo con una sequenza CPU più corta del tempo che rimane al processo in esecuzione per terminare la sua sequenza, allora il processo corrente viene prerilasciato. Questo schema è noto con il nome di Shortest-Remaining-Time-First (SRTF). 27 Shortest Job First (SJF) Si può dimostrare l ottimalità dello SJF: rende minimo il tempo d attesa medio per un dato insieme di processi Perchè? Si considerino 4 processi A,B,C,D con tempi di esecuzione a, b, c, d Turnaround (tempo di completamento) (A) -- a turnaround(b) -- a + b turnaround(c) -- a + b + c turnaround(d) -- a + b + c + d turnaround totale 4a + 3b + 2c + 1d minimo quando a, b, c, d sono in ordine crescente 28 Esempio di SJF senza prerilascio Process Arrival Time Burst Time P P P P Esempio di SJF con prerilascio Process Arrival Time Burst Time P P P P P 1 P 3 P 2 P 4 P 1 P 2 P 3 P 2 P 4 P Average waiting time = ( )/4 = 4 Average waiting time = ( )/4 =

6 SJF Il problema con SJF è che non esistono metodi per conoscere la lunghezza della successiva sequenza di operazioni CPU Spesso viene utilizzato come scheduling a lungo termine Un possibile modo per usare SJF è quello di approssimarlo, cercando di predire il valore della lunghezza della sequenza di operazioni CPU Osservazione: è probabile che sia simile alle precedenti 31 Determinare la lunghezza della successiva sequenza CPU Si stima la lunghezza del successivo CPU burst calcolando la media esponenziale delle effettive lunghezze delle precedenti sequenze di operazioni della CPU. Siano t n = Lunghezza dell n-esimo CPU burst Informazioni recenti τ n+1 = valore previsto per il successivo CPU burst Storia passata 0 α 1 Peso relativo tra storia recente e passata τ n+1 = α t n + (1- α) τ n 32 Predizione lunghezza successivo CPU burst α=1/2 33 Predizione α =0 τ n+1 = τ n Storia recente non conta α =1 τ n+1 = t n Solo l ultimo CPU burst conta Se espandiamo la formula, otteniamo τ n+1 = α t n +(1 - α) α t n-1 + +(1 - α ) j α t n-j + +(1 - α ) n+1 τ 0 Dato che sia α che (1 - α) sono 1, ogni termine ha peso minore o uguale a quello del suo predecessore 34 Scheduling con priorità Ogni processo ha una priorità La CPU è assegnata al processo con priorità maggiore (smallest integer highest priority) Preemptive Non-preemptive Punti chiave : come assegnare le priorità (statiche, dinamiche ) come evitare attesa indefinita della CPU nei processi a priorità più bassa come individuare i processi I/O bound per elevare la loro priorità 35 Scheduling con priorità Quali tra gli algoritmi di scheduling visti finora è a priorità???? SJF Lavori con lungo CPU burst: priorità bassa Lavori con corto CPU burst: priorità alta 36 6

7 Scheduling con priorità Scheduling con priorità Molte strategie per il calcolo della priorità Tipicamente : priorità dinamica (es. più elevata per i processi che passano da bloccato a pronto) legata alla percentuale f del quanto di tempo che è stato consumato l ultima volta che il processo è andato in esecuzione Problema Starvation processi a bassa priorità potrebbero non essere mai eseguiti Soluzione Aging con il passare del tempo, la priorità dei processi aumenta Scheduling Round Robin (sistemi interattivi) Ogni processo ottiene la CPU per un quanto di tempo, tipicamente millisecondi. Dopo questo periodo, il processo è prerilasciato e messo nella coda dei pronti (realizzata FIFO) Se ci sono n processi nella coda dei pronti, e il quanto dura q, allora ogni processo ottiene 1/n del tempo CPU in blocchi di al più q unità di tempo Nessun processo attende più di (n-1)q unità di tempo Performance q grande FCFS q piccolo q deve essere grande rispetto alla durata del cambio di contesto 39 Scheduling Round Robin (a) lista dei processi pronti (b) lista dei pronti dopo che B ha usato il suo quanto (quantum) di tempo 40 Scheduling Round Robin Come fissare il quanto di tempo deve essere abbastanza lungo da ammortizzare il costo di un context switch (ordine 1 ms) deve essere abbastanza breve da permettere una risposta veloce agli utenti interattivi RR non favorisce i processi I/O bound È uno scheduling con prerilascio???? 41 Esempio di RR con q = 20 Process Burst Time P 1 53 P 2 17 P 3 68 P 4 24 P 1 P 2 P 3 P 4 P 1 P 3 P 4 P 1 P 3 P Tipicamente, si ha un tempo d attesa medio maggiore del SJF, ma un migliore tempo di risposta 42 7

8 Quanto e cambio di contesto Tempo di completamento e quanto Sistemi interattivi: Round Robin+Priority È possibile combinare RR e priorità Es.: sia P un processo I/O bound. CPU burst di P sono più corti del quanto di tempo. Se P è pronto, dovrebbe essere eseguito. Quindi si assegna a P alta priorità La priorità associata a un processo I/O bound è 1/f, con f la frazione del quanto di tempo utilizzata dal processo Scheduling sommario Scheduling in sistemi batch (insieme dei job da schedulare tipicamente noto a priori) SJF (shortest job first) Scheduling in sistemi interattivi Round Robin Code Multiple Scheduling con code multiple Scheduling con code multiple La coda di pronti è partizionata in code separate, a seconda dei tipi di processi In primo piano (foreground o interattivi) In sottofondo (background o batch) Ogni coda utilizza il proprio algoritmo di scheduling foreground RR o priorità background FCFS È necessario uno scheduling tra le varie code A priorità fissa (prima i foreground e poi i background): possibilità di starvation Time slice ogni coda ottiene una certa quantità di CPU che schedula tra I suoi processi. Es.: 80% ai foreground in RR, e 20% ai background in FCFS

9 Scheduling con Code multiple Scheduling con Code multiple Esempio di algoritmo di scheduling a code multiple con 4 classi di priorità 49 Scheduling Round Robin all interno della classe con priorità più elevata Alcuni sistemi danno quanti più lunghi ai processi nelle classi basse (compute-bound) per minimizzare l overhead del cambio di contesto Tipicamente i processi sono assegnati in modo permanente alle code 50 Code multiple con retroazione (feedabck) Un processo può cambiare coda Sono caratterizzate dai seguenti parametri Numeri di code Algoritmi di scheduling per ogni coda Metodo usati per upgrade di un processo Metodo usati per spostare in basso un processo Metodo usato per determinare in quale coda inserire un processo che richiede un servizio 51 Esempio di Multilevel Feedback Queues 3 code Q 0 quanto di 8 millisecondi Q 1 quanto di 16 millisecondi Q 2 FCFS Lo scheduler esegue tutti i lavori in Q 0, poi quelli in Q 1 e infine quelli in Q 2 Un processo in ingresso in Q 1 ha la prelazione su quelli in Q 2, e uno in ingresso in Q 0 ha prelazione su quelli in Q 1 Un nuovo lavoro entra in Q 0 (servito FCFS). Quando ottiene la CPU, viene eseguito per 8 millisec. Se non termina, viene messo in Q 1 In Q 1 (servito FCFS) riceve altri 16 millisec. Se ancora non termina, viene spostato in Q 2 52 Multilevel Feedback Queues Quindi, a quale tipo di processo viene data la priorità???? 53 Scheduling per multi processore Lo scheduling della CPU diviene più complesso quando più CPU sono disponibili Si considerano i sistemi omogenei: qualunque unità può essere usata per eseguire qualsiasi processo in coda Condivisione del carico Invece di usare una coda per ogni processore (qualche coda potrebbe risultare vuota processore inattivo) si usa un unica coda dei pronti Due criteri di scheduling Ogni processore può esaminare la coda e scegliere il processo da eseguire Bisogna porre attenzione ai problemi derivanti da accessi a una struttura dati comune Due processori non possono scegliere lo stesso processo I processi non devono essere perduti dalla coda Si fissa un processore responsabile dello scheduling Spingendosi oltre si ha la multielaborazione simmetrica: tutte le decisioni di scheduling, elaborazione delle op. di I/O e le altre attività di sistema sono svolte da un unica unità (master server); le altre eseguono solo codice 54 9

10 Scheduling per sistemi real-time Hard real-time: garantiscono il completamento delle funzioni critiche entro un tempo definito I processo dichiarano il tempo entro cui devono completare le proprie funzioni Lo scheduler deve conoscere esattamente la durata dell esecuzione di qualsiasi tipo di funzione del sistema Sono specifici in applicazioni industriali Soft real-time: richiedono che i processi critici abbiano una priorità maggiore di quelli ordinari (applicazioni multimediali, grafica interattiva) Scheduling a priorità I processi critici devono avere priorità fissa (non variabile nel tempo): niente aging per i processi critici Latenza di dispatch deve essere bassa (processi critici pronti devono passare presto in esecuzione) Le chiamate di sistema devono poter subire il prerilascio (punti di prerilascio nelle SC lunghe: in questi punti il SO verifica la presenza di processi critici da eseguire. Questi punti devono essere collocati in punti sicuri del codice) L intero nucleo può subire prerilascio (Solaris 2) Latenza di dispatch Valutazione degli algoritmi Modelli deterministici: fornisce una valutazione analitica dell algoritmo. Cioè, dato un algoritmo e un carico di lavoro del sistema, fornisce una formula che valuta le prestazioni dell algoritmo per quel carico di lavoro Molto specifica e richiede conoscenze troppo dettagliate Reti di code: tipicamente è impossibile determinare un insieme (statico) di processi da usare nei modelli deterministici (I processi variano!!!!). Però è possibile determinare le distribuzioni delle sequenze di operazioni CPU e I/O, perché si possono misurare e/o stimare Reti di code Il sistema si descrive come una rete di unità serventi, ciascuna con una coda d attesa Se sono noti l andamento degli arrivi e dei servizi, si possono calcolare l utilizzo, la lunghezza media delle code e il tempo medio d attesa (analisi delle reti di code) Es.: siano n: lunghezza media di una coda W: tempo medio d attesa in coda, e λ l andamento medio d arrivo dei nuovi processi in coda Durante W, quanti nuovi processi arrivano in coda???? λw Se il sistema è stabile, il numero dei processi che escono dalla coda è uguale an numero dei processi che entrano, quindi n=???? λw (formula di Little) Si utilizza per calcolare una delle tre variabili, note le altre due È comunuqe complicato fornire distribuzioni realistiche Valutazione tramite simulazioni Valutazione tramite simulazioni Per avere valutazioni più precise si usano simulazioni I dati (utilizzo CPU, I/O, arrivi in coda, terminazioni, ecc) si possono ottenere tramite numeri generati casualmente (utilizzando varie distribuzioni: uniforme, Poisson, esponenziale) Oppure tramite trace tape

11 Valutazione tramite realizzazione Costi alti Scheduling dei Thread Lo scheduling dei thread utilizza algoritmi simili a quelli visti finora viene implementato in modo diverso nel thread a livello utente e a livello kernel Scheduling dei Thread Lo scheduling dei thread user level il SO non conosce l esistenza dei thread, quindi schedula i processi durante l esecuzione di un processo lo schedulatore della libreria dei thread decide quale thread mandare in esecuzione le interruzioni del clock non sono visibili allo schedulatore di livello utente lo schedulatore può intervenire solo se invocato esplicitamente (es. thread_yield) non c è prerilascio (all interno di un singolo processo) 63 Scheduling thread user-level Possible scheduling of user-level threads 50-msec process quantum threads run 5 msec/cpu burst 64 Scheduling dei Thread Lo scheduling dei thread kernel level il SO schedula i thread (non i processi) quando un thread si blocca il SO può decidere di mandare in esecuzione un altro thread di quel processo o un thread di un processo diverso può scegiere se pagare il cambio di contesto o no le interruzioni del clock permettono allo schedulatore di tornare in esecuzione alla fine del quento di tempo i quanti di tempo sono assegnati direttamente ai thread si può effettuare prerilascio 65 Scheduling thread kernel-level Possible scheduling of kernel-level threads 50-msec process quantum threads run 5 msec/cpu burst 66 11

12 Per oggi basta