Calcolatori Elettronici. La Pipeline Criticità sui dati Criticità sul controllo Cenni sull unità di controllo

Transcript

1 Calcolatori Elettronici La Pipeline Criticità sui dati Criticità sul controllo Cenni sull unità di controllo

2 La pipeline CRITICITÀ SUI DATI Calcolatori Elettronici - Pipeline (2) - Slide 2 L. Tarantino - a.a. 2004/2005

3 Criticità sui dati (1) Criticità: situazione in cui l istruzione successiva non può essere eseguita al prossimo ciclo di clock Criticità sui dati Un istruzione dipende dal risultato di un istruzione la cui esecuzione non è ancora terminata (il risultato non è ancora stato scritto) Esempio add $t0,$s0,$s1 per procedere la lw ha bisogno nella fase del valore nuovo di $t0 che però verrà scritto nel banco solo nella fase della add (dopo) criticità dovuta al percorso all indietro di scrittura sul banco Calcolatori Elettronici - Pipeline (2) - Slide 3 L. Tarantino - a.a. 2004/2005

4 Criticità sui dati (2) add $t0,$s0,$s1 per procedere la lw ha bisogno nella fase del valore nuovo di $t0 che però verrà scritto nel banco solo nella fase della add (dopo) Approccio di base Sospendere l esecuzione dell istruzione che ha bisogno del dato fino a che questo non è pronto Come cambia la pipeline: scrive nella prima metà del ciclo legge nella seconda metà C 1 C 2 C 3 C 4 C 5 C 6 C 7 C 8 add $t0,$s0,$s1 stallo stallo aumenta N cicli la lw esce con 2 cicli di ritardo Calcolatori Elettronici - Pipeline (2) - Slide 4 L. Tarantino - a.a. 2004/2005

5 Propagazione (1) add $t0,$s0,$s1 Analizziamo meglio l evoluzione dei dati nell unità di calcolo il numero da scrivere in $t0 è pronto qui all uscita della ALU C 1 C 2 C 3 C 4 C 5 C 6 C 7 C 8 add $t0,$s0,$s1 il numero da sommare allo spiazzamento serve qui all ingresso della ALU il valore cercato è già pronto nel momento in cui serve Calcolatori Elettronici - Pipeline (2) - Slide 5 L. Tarantino - a.a. 2004/2005

6 Propagazione (2) add $t0,$s0,$s1 il valore cercato è già pronto nel momento in cui serve Il dato viene prelevato in anticipo dalle risorse interne C 1 C 2 C 3 C 4 C 5 C 6 C 7 add $t0,$s0,$s1 bisogna però scartare il valore letto in non c è ritardo in altre parole il dato all uscita della ALU torna all ingresso al prossimo ciclo di clock Calcolatori Elettronici - Pipeline (2) - Slide 6 L. Tarantino - a.a. 2004/2005

7 Propagazione (3) Cosa succede nelle prossime istruzioni? add $t0,$s0,$s1 sub $s1,$t0,$s2 add $s2,$t3,$t0 questa non è criticità perchè scrive nella prima metà del ciclo lo trova pronto nella seconda Calcolatori Elettronici - Pipeline (2) - Slide 7 L. Tarantino - a.a. 2004/2005

8 Realizzare la propagazione (cenni) / 1 Un valore all uscita della ALU deve poter tornare all ingresso (retroazione) nei DUE successivi cicli di clock Nuove sorgenti per gli ingressi della ALU Mux Viene inserita una unità di propagazione per controllare i Mux (affianca l unità di controllo della ALU) Osservazione Nel processore MIPS ciascuna istruzione scrive solo un risultato, al termine della propria esecuzione in altre macchine potrebbe essere necessario propagare più risultati per ciascuna istruzione Calcolatori Elettronici - Pipeline (2) - Slide 8 L. Tarantino - a.a. 2004/2005

9 Etich Etich Realizzare la propagazione (cenni) / 2 Schema di massima (in realtà è un po più complesso) M u x M u x ALU identificativi dei registri da cui devo leggere rs, rt - specificati nell istruzione) Unità di propagazione confronta le etichette con rs e rt e decide l operando corretto mi ricordo in quali registri vanno scritti Calcolatori Elettronici - Pipeline (2) - Slide 9 L. Tarantino - a.a. 2004/2005

10 Quando la propagazione non basta Criticità sui dati di tipo carica-e-usa add $t0,$s0,$t2 t 0 t 1 t 2 t 3 t 4 t 5 t 6 il dato serve qui, all inizio della il dato è pronto qui, alla fine della non c è possibilità di anticipo il dato serve prima che sia stato portato all interno della CPU il dato serve in t 3 : sarà pronto un ciclo di clock dopo Calcolatori Elettronici - Pipeline (2) - Slide 10 L. Tarantino - a.a. 2004/2005

11 Criticità di tipo carica-e-usa (1) add $t0,$s0,$t2 Approccio di base il dato serve in t 3 : sarà pronto un ciclo di clock dopo Sospendere l esecuzione dell istruzione che ha bisogno del dato fino a che questo non è pronto Come cambia la pipeline: prima lo stallo poi un anticipo C 1 C 2 C 3 C 4 C 5 C 6 C 7 add $t0,$s0,$t2 stallo aumenta N cicli la add esce con 1 ciclo di ritardo Calcolatori Elettronici - Pipeline (2) - Slide 11 L. Tarantino - a.a. 2004/2005

12 Criticità di tipo carica-e-usa (2) il dato serve in t 3 : sarà pronto un ciclo di clock dopo Miglioriamo le prestazioni (= eliminare il ciclo di ritardo) Se tra le due istruzioni che generano criticità ce ne fosse un altra basterebbe l anticipo Esempio sub $s1,$s2,$t1 add $t0,$s0,$t2 t 0 t 1 t 2 t 3 t 4 t 5 t 6 Nuovo approccio: riordinare il codice per porre tra le due istruzioni che generano criticità una terza istruzione indipendente dalle due il dato è pronto qui, lo anticipo alla Calcolatori Elettronici - Pipeline (2) - Slide 12 L. Tarantino - a.a. 2004/2005

13 La pipeline CRITICITÀ SUL CONTROLLO Calcolatori Elettronici - Pipeline (2) - Slide 13 L. Tarantino - a.a. 2004/2005

14 Criticità sul controllo (1) Nel caso di salti non posso sapere alla fine della fase quale sarà il valore corretto del PC Esempio beq $t0,$s0,l L: add $s0,$t1,$t2 per procedere con la lw dovrei sapere se il salto si esegue o no lo scopro solo nella fase della beq (tardi) criticità dovuta al percorso all indietro di scrittura nel PC Calcolatori Elettronici - Pipeline (2) - Slide 14 L. Tarantino - a.a. 2004/2005

15 Criticità sul controllo (2) beq $t0,$s0,l L: add $s0,$t1,$t2 Approccio di base Sospendere l esecuzione dell istruzione successiva appena mi accorgo che quella corrente è una beq Aspettare la fine della fase della beq per sapere se il salto si esegue se no riprendere l esecuzione della istruzione di cui si era effettuato il prelievo se si iniziare l esecuzione dell istruzione a cui saltare (partendo con una nuova ) Calcolatori Elettronici - Pipeline (2) - Slide 15 L. Tarantino - a.a. 2004/2005

16 Criticità sul controllo (3) beq $t0,$s0,l L: add $s0,$t1,$t2 Quando il salto non si esegue qui scopro che è una beq qui scopro che non si salta C 1 C 2 C 3 C 4 C 5 C 7 C 8 beq $t0,$s0,l stallo L:add $s0,$t1,$t2 stallo la lw esce con 1 ciclo di ritardo Calcolatori Elettronici - Pipeline (2) - Slide 16 L. Tarantino - a.a. 2004/2005

17 Criticità sul controllo (4) beq $t0,$s0,l L: add $s0,$t1,$t2 Quando il salto si esegue qui scopro che è una beq qui scopro che si salta C 1 C 2 C 3 C 4 C 5 C 7 C 8 beq $t0,$s0,l stallo L:add $s0,$t1,$t2 stallo la add esce con 2 cicli di ritardo Calcolatori Elettronici - Pipeline (2) - Slide 17 L. Tarantino - a.a. 2004/2005

18 Tecniche per migliorare le prestazioni (1) Inseriamo lo stallo perchè dobbiamo aspettare la fine della fase per sapere se il salto si esegue Approccio ideale spostare tutte le attività relative al salto nella fase servono risorse hardware aggiuntive si allunga la fase e può aumentare T ck Calcolatori Elettronici - Pipeline (2) - Slide 18 L. Tarantino - a.a. 2004/2005

19 Tecniche per migliorare le prestazioni (2) Approccio più economico Mantenere il confronto nella fase e predire il fallimento: proseguire l esecuzione come se nulla fosse (cioè come se il salto non dovesse essere eseguito) se il salto non si esegue abbiamo fatto delle cose utili (0 stalli) se il salto si esegue si ignora quello che si è fatto e si preleva una nuova istruzione (2 stalli, come prima) Esempio una beq all inizio di un ciclo fallisce n volte e si esegue una sola volta la predizione di fallimento è corretta n volte su n+1 Calcolatori Elettronici - Pipeline (2) - Slide 19 L. Tarantino - a.a. 2004/2005

20 Tecniche per migliorare le prestazioni (3) Predizione dinamica dei salti (PowerPC, PentiumPro) memorizzare la storia di ciascun salto usare il passato per predire il futuro se si è presa una decisione sbagliata si ignora quello che si è fatto e si preleva l istruzione a cui saltare precisione del 90% (dati sperimentali) Salto ritardato riordinare il codice in modo da fare delle cose utili mentre si aspetta la decisione sul salto si pone subito dopo la beq un istruzione che non dipende da questa analoga al caso delle criticità carica-e-usa Calcolatori Elettronici - Pipeline (2) - Slide 20 L. Tarantino - a.a. 2004/2005

21 La pipeline RIORGANIZZARE LA CPU Calcolatori Elettronici - Pipeline (2) - Slide 21 L. Tarantino - a.a. 2004/2005

22 Disaccoppiare le fasi - registri di pipeline Introduciamo i registri tra un segmento e l altro della pipeline per mantenere i dati stabili tra un ciclo di clock e il successivo Schematizzazione in cui ciascun registro di pipeline prende il nome dai due segmenti che separa IM / Reg / Ex Ex / Mem DM Mem / Reg ALU Calcolatori Elettronici - Pipeline (2) - Slide 22 L. Tarantino - a.a. 2004/2005

23 L unità di controllo (1) In presenza di pipeline al generico ciclo di clock ci sono 5 istruzioni diverse nell unità di calcolo (in assenza di stalli), ognuna ad una diversa fase di esecuzione (cioè in un diverso segmento) nessun segmento è inerte ogni segmento ha bisogno delle sue linee di controllo Esempio all i-esimo ciclo di clock: add lw beq slt add In presenza di pipeline ad ogni ciclo di clock l unità di controllo dovrebbe generare una microistruzione associata alla combinazione di istruzioni difficile prevedere tutti i casi!! Calcolatori Elettronici - Pipeline (2) - Slide 24 L. Tarantino - a.a. 2004/2005

24 L unità di controllo (2) ad ogni ciclo di clock entra una nuova istruzione nella pipeline l unità di controllo decodifica una nuova istruzione ad ogni ciclo ad ogni istruzione viene consegnata la sua sequenza di controlli per il segmento istruzione Unità di controllo... M Ex... M... / / Ex Ex / Mem Mem / Calcolatori Elettronici - Pipeline (2) - Slide 25 L. Tarantino - a.a. 2004/2005