Evoluzione delle architetture Evoluzione strutturale

Transcript

1 Evoluzone delle archtetture Evoluzone strutturale Parallelsmo Se un lavoro non può essere svolto pù velocemente da una sola persona (untà), allora convene decomporlo n part che possano essere esegute da pù persone (untà) contemporaneamente Catena d montaggo Ppelne Generaltà 1 Ipotzzamo che per svolgere un dato lavoro L s debbano esegure tre fas dstnte e sequenzal L [fase1] [fase2] [fase3] Se ogn fase rchede T untà d tempo, un unco esecutore svolge un lavoro L ogn 3T untà d tempo Per rdurre temp d produzone s possono utlzzare pù esecutor Archtettura degl elaborator - A. Sperdut

2 Ppelne Generaltà 2 Soluzone (deale) a parallelsmo totale E1 [fase1.a] [fase2.a] [fase3.a] [fase1.d] E2 [fase1.b] [fase2.b] [fase3.b] [fase1.e] E3 [fase1.c] [fase2.c] [fase3.c] [fase1.f] N esecutor svolgono un lavoro ogn 3T/N untà d tempo Il problema è come preservare la dpendenza funzonale nell esecuzone (d fas) de lavor A, B, C, D, E, F, Ppelne Generaltà 3 Soluzone ppelne ad esecutor generc E1 [fase1] [fase2] [fase3] [fase1] [fase2] E2... [fase1] [fase2] [fase3] [fase1] E3... [fase1] [fase2] [fase3] Ogn esecutore esegue un cclo d lavoro completo (sstema totalmente replcato) A regme, N esecutor svolgono un lavoro L ogn 3T/N untà d tempo rspettandone la sequenza Archtettura degl elaborator - A. Sperdut

3 Ppelne Generaltà 4 Soluzone ppelne ad esecutor specalzzat E1 [fase1] [fase1] [fase1] [fase1] [fase1] E2... [fase2] [fase2] [fase2] [fase2] E3... [fase3] [fase3] [fase3] Ogn esecutore svolge sempre e solo la stessa fase d lavoro Soluzone pù effcace n termn d uso d rsorse (3T/N lavor con N/3 rsorse) Prefetch come ppelne a due stad Archtettura degl elaborator - A. Sperdut

4 Ppelne Decomposzone n fas L esecuzone d una generca struzone può essere suddvsa nelle seguent fas: fetch (FI) lettura dell struzone decodfca (DI) decodfca dell struzone calcolo nd. op. (CO) calcolo ndrzzo effettvo operand fetch operand (FO) lettura degl operand n memora esecuzone (EI) esecuzone dell struzone scrttura (WO) scrttura del rsultato n memora Ppelne (Evoluzone deale) rappresentazon alternatve Archtettura degl elaborator - A. Sperdut

5 Ppelne prestazon deal Le prestazon deal d una ppelne s possono calcolare matematcamente come segue Sa t l tempo d cclo d una ppelne necessaro per far avanzare d uno stado le struzon attraverso una ppelne. Questo può essere determnato come segue: t = max [t ] + d = t m + d 1 k t m = massmo rtardo d stado (rtardo dello stado pù oneroso) k = numero d stad nella ppelne d = rtardo d commutazone d un regstro, rchesto per l avanzamento d segnal e dat da uno stado al successvo Ppelne prestazon deal Poché t m >> d, l tempo totale T k rchesto da una ppelne con k stad per esegure n struzon (senza consderare salt ed n prma approssmazone) è dato da T k = [k + (n-1)]t n quanto occorrono k ccl per completare l esecuzone della prma struzone e n-1 per le restant struzon, e qund l fattore d veloczzazone (speedup) d una ppelne a k stad è dato da: T1 Sk Tk nkt nk [ k ( n 1)] t [ k ( n 1)] Archtettura degl elaborator - A. Sperdut

6 Speedup Calcolato n funzone del numero d struzon Calcolato n funzone del numero d stad Ppelne Problem 1 Var fenomen pregudcano l raggungmento del massmo d parallelsmo teorco (stallo) Sblancamento delle fas Durata dversa per fase e per struzone Problem struttural La sovrapposzone totale d tutte le (fas d) struzon causa confltt d accesso a rsorse lmtate e condvse (ad esempo la memora per gl stad FI, FO, WO) Archtettura degl elaborator - A. Sperdut

7 Ppelne Problem 2 Dpendenza da dat L operazone successva dpende da rsultat dell operazone precedente Dpendenza da controll Istruzon che causano una volazone d sequenzaltà (p.es.: salt condzonal) nvaldano l prncpo del ppelnng sequenzale Ppelne Sblancamento delle fas 1 La suddvsone n fas va fatta n base all struzone pù onerosa Non tutte le struzon rchedono le stesse fas e le stesse rsorse Non tutte le fas rchedono lo stesso tempo d esecuzone P.es.: lettura d un operando tramte regstro rspetto ad una medante ndrzzamento ndretto Archtettura degl elaborator - A. Sperdut

8 FI Ppelne Sblancamento delle fas 2 DI... CO FO EI WO X 3 X 4 X X X X X X X X 4 1 X X Tempo d attesa forzata dovuta allo sblancamento delle fas Ppelne Sblancamento delle fas 3 Possbl soluzon allo sblancamento: Decomporre fas onerose n pù sottofas Costo elevato e bassa utlzzazone Duplcare gl esecutor delle fas pù onerose e farl operare n parallelo CPU moderne hanno una ALU n artmetca ntera ed una n artmetca a vrgola moble Archtettura degl elaborator - A. Sperdut

9 Ppelne Problem struttural Problem Maggor rsorse nterne (severtà bassa): l evoluzone tecnologca ha spesso permesso d duplcarle (es. regstr) Coll d bottgla (severtà alta): l accesso alle rsorse esterne, p.es.: memora, è molto costoso e molto frequente (anche 3 access per cclo d clock) Soluzon Suddvdere le memore (access parallel: ntrodurre una memora cache per le struzon e una per dat) Introdurre fas non operatve (nop) Ppelne Dpendenza da dat 1 Un dato modfcato nella fase EI dell struzone corrente può dover essere utlzzato dalla fase FO dell struzone successva INC [0123] CMP [0123], AL FI.1 DI.1 CO.1 FO.1 EI.1 WO.1 FI.2 DI.2 CO.2 stallo FO.2 EI.2 WO.2 C sono altr tp d dpendenze? Archtettura degl elaborator - A. Sperdut

10 Dpendenze S consder la sequenza struzone struzone j Esempo vsto: lettura dopo scrttura (ReadAfterWrte) j leggere prma che abba scrtto Altro caso: scrttura dopo scrttura (WrteAfterWrte) j scrve prma che abba scrtto Altro caso: scrttura dopo lettura (WrteAfterRead) j scrve prma che abba letto (caso raro n ppelne) Ppelne Dpendenza da dat 2 Soluzon Introduzone d fas non operatve (nop) Indvduazone del rscho e prelevo del dato drettamente all uscta dell ALU (data forwardng) Rsoluzone a lvello d complatore (vedremo esemp per l archtettura MIPS) Rordno delle struzon (ppelne schedulng) Archtettura degl elaborator - A. Sperdut

11 Ppelne Data forwardng senza bypass path con bypass path Ppelne Dpendenza da controll Tutte le struzon che modfcano l PC (salt condzonat e non, chamate a e rtorn da procedure, nterruzon) nvaldano la ppelne La fase fetch successva carca l struzone seguente, che può non essere quella gusta Tal struzon sono crca l 30% del totale medo d un programma Archtettura degl elaborator - A. Sperdut

12 Ppelne Dpendenza da controll Soluzon Mettere n stallo la ppelne fno a quando non s è calcolato l ndrzzo della prossma struzone Pessma effcenza, massma semplctà Indvduare le struzon crtche per antcparne l esecuzone, eventualmente medante apposta logca d controllo Complazone complessa, hardware specfco Salto (Stallo) Archtettura degl elaborator - A. Sperdut

13 Salto (Stallo) Salto ncondzonato ndrzzo d salto conoscuto qu Salto preso Salto condzonato condzone ed ndrzzo d salto conoscut qu nzalmente carcata struzone successva a BR TARGET, po elmnata quando s rconosce l salto ncondzonato alla fne della fase DI Salto non preso condzone d salto conoscuta qu Funzonamento ppelne a 6 stad con trattamento de salt ed nterrupt tramte svuotamento Archtettura degl elaborator - A. Sperdut

14 Ppelne Dpendenza da controll Alcune soluzon per salt condzonat fluss multpl (multple streams) prelevo antcpato della destnazone (prefetch branch target) buffer crcolare (loop buffer) predzone del salto (branch predcton) salto rtardato (delayed branch) Ppelne Dpendenza da controll Fluss multpl: replcare le part nzal della ppelne, una che contenga l struzone successva a quella corrente d salto (nel caso l salto non avvenga), e l altra l struzone destnazone (target) del salto (nel caso n cu l salto avvenga) Problem d questa soluzone: confltt nell accesso alle rsorse (regstr, memora, ALU, ) da parte delle 2 ppelne presenza d salt condzonal n sequenza che entrano nelle 2 ppelne prma che s sa rsolta la condzone del prmo salto condzonale (occorrerebbero 2 ppelne agguntve per ogn ulterore salto condzonale ) Archtettura degl elaborator - A. Sperdut

15 Ppelne Dpendenza da controll Prelevo antcpato della destnazone: quando s ncontra un salto condzonato s effettua l fetch antcpato della struzone d destnazone del salto n modo da trovarla gà carcata nel caso n cu l salto debba avvenre. Problem d questa soluzone: non evta l eventuale svuotamento della ppelne con conseguente perdta d prestazon Ppelne Dpendenza da controll Buffer crcolare: s utlzza una memora pccola e molto veloce (l buffer crcolare) dove mantenere le ultme n struzon prelevate. In caso d salto, s controlla se l struzone destnazone è gà presente nel buffer, così da evtare l fetch della stessa. Archtettura degl elaborator - A. Sperdut

16 Buffer crcolare (senza prefetch) Memora... 0AF700 SUB CX,CX 0AF701 MOV AX,01AF90 0AF702 CMP AX, AF703 BNZ 0AF AF7FF ADD AX,CX 0AF800 SUB BX,CX 0AF801 CMP BX,AX 0AF802 BNZ 0AF800 0AF803 INC BX... 0AF701 0AF buffer crcolare tag struzone 00 0AF7 0AF8 SUB CX,CX BX,CX 01 0AF7 0AF8 MOV CMP AX,01AF90 BX,AX 02 0AF7 0AF8 CMP BNZ AX, AF AF7 BNZ 0AF FF 0AF7 ADD AX,CX 0AF8 0AF7 ht! Ppelne Dpendenza da controll Buffer crcolare: s utlzza una memora pccola e molto veloce (l buffer crcolare) dove mantenere le ultme n struzon prelevate. In caso d salto, s controlla se l struzone destnazone è gà presente nel buffer, così da evtare l fetch della stessa. Vantagg: antcpando l fetch, alcune delle struzon successve a quella corrente saranno gà present nel buffer e se non s ha salto non c sarà bsogno d carcarle dalla memora se s salta n avant d poche struzon (ved trattamento del costrutto IF- THEN-ELSE), l struzone destnazone sarà gà presente nel buffer se l salto condzonale realzza un cclo le cu struzon possono essere tutte contenute nel buffer, non c è bsogno d effettuare fetch rpetut delle stesse struzon Archtettura degl elaborator - A. Sperdut

17 Ppelne Dpendenza da controll Predzone de salt: s cerca d prevedere se l salto sarà ntrapreso oppure no. Vare possbltà: prevsone d saltare sempre prevsone d non saltare ma prevsone n base al codce operatvo approcc statc bt taken/not taken tabella della stora de salt approcc dnamc Approcc dnamc d predzone: cercano d mglorare la qualtà della predzone sul salto memorzzando la stora delle struzon d salto condzonato d uno specfco programma. bt taken/not taken : ad ogn struzone d salto condzonato s assocano uno o pù bt che codfcano la stora recente. bt memorzzat non n memora centrale ma n una locazone temporanea ad accesso molto veloce esempo con 2 bt Archtettura degl elaborator - A. Sperdut

18 Approcc dnamc d predzone: cercano d mglorare la qualtà della predzone sul salto memorzzando la stora delle struzon d salto condzonato d uno specfco programma esempo: LOOP: BNZ LOOP Predzone con 1 bt: s predce l comportamento osservato l ultma volta dopo la prma esecuzone del cclo, n uscta dal cclo, l bt assegnato a BNZ rcorderà che l salto non è stato preso, così che, quando s rentra nel cclo s avrà un prmo errore per la prma terazone del cclo (che nvece è preso), le successve predzon saranno guste, tranne l ultma, quando s esce dal cclo: n totale 2 error Predzone con 2 bt: ved lucdo precedente dopo la prma esecuzone del cclo, s commette un solo errore d predzone all uscta del cclo Predzone dnamca 1 bt LOOP2 LOOP1... SUB CX,CX MOV AX,0001AF90 CMP AX, BNZ LOOP1 INC CX ADD AX,CX SUB BX,CX CMP BX,AX BNZ LOOP2 INC BX non saltare saltare error d predzone 0123 Archtettura degl elaborator - A. Sperdut

19 Predzone dnamca 2 bt LOOP2 LOOP1... SUB CX,CX MOV AX,0001AF90 CMP AX, BNZ LOOP1 INC CX ADD AX,CX SUB BX,CX CMP BX,AX BNZ LOOP2 INC BX... error d predzone saltare 201 Problem d bt taken/not taken : quando s decde d saltare, bsogna aspettare la decodfca dell ndrzzo destnazone prma d poter prelevare l struzone destnazone s può antcpare l prelevo a patto d salvare opportune nfo nel branch target buffer o branch hstory table tabella della stora de salt: pccola memora assocata allo stado fetch della ppelne ogn rga della tabella è costtuta da 3 element: 1. ndrzzo struzone salto, 2. l ndrzzo destnazone del salto (o l struzone destnazone stessa), 3. alcun bt d stora che descrvono lo stato dell uso dell struzone Archtettura degl elaborator - A. Sperdut

20 Salto rtardato (delayed branch) Idea base: utlzzare gl stad nattv a causa dello stallo per fare del lavoro utle Delayed branch: La CPU esegue sempre l struzone che segue l salto e solo dopo altera, se necessaro, la sequenza d esecuzone delle struzon L struzone che segue quella d salto s dce essere posta nel branch delay slot Il complatore cerca d allocare nel branch delay slot una struzone opportuna Salto rtardato (delayed branch) struzone ndpendente dalle altre codce scrtto dal programmatore struzone eseguta solo se non s prende l salto codce ottmzzato dal complatore struzone eseguta n ogn caso: s trova nel branch delay slot!! struzone eseguta solo se non s prende l salto Archtettura degl elaborator - A. Sperdut

21 Salto rtardato (delayed branch) Salto preso condzone ed ndrzzo d salto conoscut qu Salto non preso condzone d salto conoscuta qu Salto rtardato (delayed branch) b) e c) legal solo se R4 e R7 sono regstr temporane l cu contenuto può essere sporcato senza cambare la semantca del programma Archtettura degl elaborator - A. Sperdut

22 Intel Ppelnng Fetch Istruzon prelevate dalla cache o memora esterna Poste n uno de due buffer d prefetch da 16 byte Carca dat nuov appena quell vecch sono consumat Poché le struzon sono a lunghezza varable (1-11 byte), n meda carca 5 struzon per ogn carcamento da 16 byte Indpendente dagl altr stad per mantenere buffer pen Decodfca 1 (D1) Decodfca codce operatvo e mod d ndrzzamento Le nformazon d sopra sono codfcate (al pù) ne prm 3 byte d ogn struzone Se necessaro, ndca allo stado D2 d trattare byte restant (dat mmedat e spazzamento) Decodfca 2 (D2) Espande codc operatv n segnal d controllo per l ALU Provvede a controllare calcol per mod d ndrzzamento pù compless Esecuzone (EX) Operazon ALU, accesso alla cache (memora), aggornamento regstr Retroscrttura (WB) Se rchesto, aggorna regstr e flag d stato modfcat n EX Se l struzone corrente aggorna la memora, pone l valore calcolato n cache e ne buffer d scrttura del bus Instructon Ppelne: esemp Archtettura degl elaborator - A. Sperdut