Marco Danelutto Dipartimento di Informatica Università di Pisa 16 ottobre 2014

Transcript

1 Marco Danelutto Dipartimento di Informatica Università di Pisa 16 ottobre 2014

2 La macchina calcolatore Oggetto costituito da componenti diversi Unità centrale (CPU) Memoria Periferiche Unità centrale Esegue un programma contenuto nella memoria Interagendo con il mondo esterno mediante le periferiche M CPU I/O 1. Preleva istruzione dalla memoria 2. Decodificala 3. Preleva gli operandi 4. Eseguila 5. Scrivi risultati 6. Controlla eventi straordinari 7. Ricomincia

3 Programmi Applicazioni (GUI, Compilatori, Office, Video, Sound, ) Sistema operativo (gestione processi, memoria, I/O) Disco RAM Disco RAM BIOS (gestione minima periferiche, boot) ROM

4 Unità centrale Costruita utilizzando componenti elettronici Stampati sul silicio Più componenti Più memoria Istruzioni più complesse o più veloci Periferiche più intelligenti Ma anche Più area sul silicio Più consumo

5 Quanti componenti? Legge di Moore Componenti per chip raddoppiano ogni due anni Gordon E. Moore 1965 Co-fondatore della Intel Componente base transistor , 8µm, 3,5K transistors, 1 MHz (Apple 2) , 3µm, 30K transistors, 5-10MHz (IBM PC XT) , 1,5µm, 275K transistors, 20MHz Pentium 4, nm, M transistor, 3-4GHz

6 Miglioramento costante Clock Velocità di calcolo delle istruzioni Codice Componenti (transistors) Maggiore capacità di memoria (cache) Istruzioni più potenti Mantenendo lo stesso modello architetturale Dunque lo stesso modello di programmazione Nuovo PC Maggior velocità

7 Ma Maggior numero di componenti e maggior frequenza Problemi di dissipazione del calore E.G: Pentium sarebbe potuto andare a 10GHz ma si sarebbe fuso Limite alla frequenza!

8 Ma (2) Legge di Pollack Performance proporzionale alla radice quadrata della complessità, consumo lineare nella complessità (complessità area) Limite alla complessità della singola CPU P = 1, W = 1 P=2, W=4 P=4, W=4

9 Dal 2000 in poi Maggiore capacità di integrazione utilizzata per raddoppiare core invece che componenti della stessa CPU 2 core (2006, ca. 300M transistor, 65nm) 4 core (2008, ca. 700M transistor, 32nm) 8 core (2010, ca. 1,2G transistor, 45nm) 16 core(2014, ca. 4,4G transistor, 22nm) 60 core(2012, ca. 5G transistor, 22nm)

10 FLOPS e dintorni Prestazioni di una macchina misurate in FLOPs Floating Point Operations per Second Kilo, Mega, Giga, Tera, Peta, Exa FLOPS (migliaia, milioni, miliardi, migliaia fi miliardi, milioni di miliardi, miliardi di miliardi) Schiarire una sequenza di 1000 foto scattata su una macchina a 18 Mpixel (idealmente) Ca. 0,5 GFLOP a foto => 500 GFLOP I3/4/7 : 50/90 GFLOPs => 10 secondi PHI : 2TFLOP => 0,25 secondi

11 Potenza (single chip) #core (per chip)

12 2x #core Anche 10%-15% più tempo per stesso codice

13 Per nuovo hw occorrono nuovi programmi Linguaggi di programmazione paralleli (espliciti o impliciti) Linguaggi di programmazione sequenziali Linguaggi di programmazione sequenziali + librerie di comunicazione e sincronizzazione Programma sequenziale Insieme di programmi sequenziali che cooperano Programmi paralleli (distribuiti)

14 C è di più GP-GPU Processori grafici specializzati Possono essere utilizzati anche per il calcolo Quando dobbiamo eseguire lo stesso calcolo su tutti gli elementi di una collezione Da 100 a 1000 core Sono coprocessori Programma della CPU Copia input e programma su GPU Ordina l esecuzione del codice Copia output dalla GPU Programma sulla GPU Calcola output da input

15 GPU programming Richiede linguaggi particolari (CUDA, OpenCL) Forte conoscenza delle caratteristiche hardware della GPU E.g. gestione esplicita dei diversi livelli di memoria presenti E comunque serve solo per tipi di programmi particolari data parallel: stesso calcolo su tutti gli elementi di un vettore/matrice

16 e acceleratori many core Tilera Pro64 (64 core o 100 core), Xeon PHI (60 core, 4 thread per core) Clock intorno al GHz Archittettura ridotta (Tilera) o standard (PHI, x86) Venduti come schede acceleratore (tipo le GPU) Eseguono programmi paralleli di vario tipo (non solo data parallel) Possono essere acceduti dall host come se fossero CPU con 64/240 core!!! Necessario trovare un alto numero di attività concorrenti per sfruttare al meglio l architettura (PHI ha un prestazioni fino a 2 TeraFLOPS!)

17 Configurazioni tipiche di calcolatori oggi Desktop/laptop 4-8 core +GPU (ca. 100 core) Mobile 2-4 core + GPU (ca. 10 core) Supercalcolatori Milioni di core Reti di Interconnessione dedicate/proprietarie

18

19 Statistiche top500

20 Statistiche top500

21 Per poterle sfruttare Dobbiamo essere in grado di programmare in parallelo Attività concorrenti coordinate per contribuire al calcolo di un risultato Dobbiamo pensare alle prestazioni Utilizzare n risorse (core) dovrebbe voler dire ottenere un esecuzione n volte più veloce Dobbiamo pensare al consumo energetico Un telefonino «vive» di batteria Un centro di calcolo consuma (ENEL) + di quanto costa

22 Programmare in parallelo 1 esecutore esegue un lavoro di 4 passi impiegando 4 t tempo 4 esecutori eseguono ognuno 1 passo, impiegando 1 t

23 Quando ci sono dipendenze Il secondo passo dipende dai risultati del primo e il terzo dai risultati del secondo Sequenziale: tempo Parallelo: (indipendentemente da quanti esecutori ho a disposizione oltre ai due utilizzati)

24 Parallelismo: pattern replicazione funzionale (FARM) Spendo un po di tempo per smistare il lavoro fra gli esecutori Tutti gli esecutori lavorano insieme Spendo un po di tempo per raccogliere i risultati Se distribuzione e collezione sono trascurabili spendo circa quanto il tempo speso da un esecutore per fare #esecutori lavori!

25 Parallelismo: pattern catena di montaggio (PIPELINE) Ogni esecutore fa una parte del lavoro E manda il risultato al prossimo esecutore Se tutti ci mettono lo stesso tempo dopo #esecutori tempi comincio a vedere uscire un risultato ogni tempo A calcolare #risultati ci metto circa #risultati X tempo di lavoro del singolo esecutore

26 Programmazione parallela Insegna come combinare pattern paralleli per far girare un programma su più core o più core e GPU Modello di programmazione Pattern paralleli Strumenti per la verifica Linguaggi di programmazione Strumenti di debugging Strumenti di tuning

27 Pensare alle prestazioni Legge di Amdahl Se si parallelizza un codice con una porzione non parallelizzabile (frazione seriale) del x %, non si potrà ottenere un incremento delle prestazioni maggiore di 100/x Significa che se spendo l 1% del mio tempo a leggere da un disco (azione inerentemente sequenziale) non potrò accelerare l esecuzione del mio codice più di 100 volte, qualsiasi sia il numero di core che utilizzo Apparentemente un risultato molto negativo

28 Pensare alle prestazioni Legge di Gustafson La frazione seriale non cresce in modo proporzionale alla dimensione dei dati trattati Dunque con dati più grossi riusciamo ad avere incrementi delle prestazioni migliori

29 Pensare ai consumi Telefonino 4 core + 1 GPU per vedere un video vanno bene Non servono se contatto la cella di tanto in tanto Exynos 5 (Samsung) core 4 ottimizzati per performance 4 ottimizzati per consumo Utilizzati in alternativa

30 Pensare ai consumi Centri supercalcolo Top500 1 consuma 17MW Per 54 PetaFLOPS Sillano 1 : 15 MW Si cercano di raggiungere gli ExaFLOPS (1000 PetaFLOPS) Per i quali si stima un consumo di 1GW Larderello: 800 MW

31 Pensare ai consumi Modello teorico Programmi che possono andare su dispositivi diversi (CPU e GPU) Valuta T CPU & T GPU GPU K20 : 20GFLOP/W CPU I7, PHI : 7, 9 GFLOP/W Smista Scelta del dispositivo più economico a parità di prestazioni CPU GPU

32 Pensare ai consumi 26 core a 1,2 GHz calcolano quanto 10 core a 2,2 GHz ma consumano meno!! Programmi che possono andare su un numero arbitrario di core Pochi core a clock massimo Molti core a clock minimo Scelta della configurazione che consuma meno a parità di prestazioni

33 Sfide: sviluppo software Sviluppare nuovi linguaggi di programmazione e compilatori Innalzare il livello di astrazione Permettere uno sviluppo più agile Verificare che il software sviluppato sia corretto Deve corrispondere alle specifiche Non deve calcolare risultati erronei Integrare il nuovo software in quello esistente Senza provocare malfunzionamenti Verificare Integrare Programmare

34 Nuovi linguaggi/modelli di programmazione Potenza espressiva Quanto codice serve per esprimere una certa classe di computazioni Esempio: calcolo in parallelo della stessa operazione su tutti gli elementi di un vettore #include <stdio.h> #include <stdlib.h> int main(int argc, char * argv[]) { #pragma omp parallel for for(i=0; i<n; i++) { // corpo del ciclo x[i] = f(x[i]); } } C + Pthread O(100) linee di codice OpenMP O(1) linee di codice

35 Nuovi linguaggi/modelli di programmazione Livello di astrazione Quali concetti si espongono al programmatore Più sono vicini al nostro modo di pensare, meno costa applicarli, più si è efficienti nello scrivere le applicazioni

36 Nuovi linguaggi: algorithmic Skeletons Building block = pattern paralleli Componibili fra di loro per creare altri pattern più complessi Fast Flow Calvados.di.unipi.it/fastflow Incapsulano gestione delle attività concorrenti (normalmente grossa sorgente di errori) Analogie con i linguaggi sequenziali)

37 Verificare Processo di sviluppo software: specifica, analisi, progettazione, implementazione, test Verificare che il software corrisponde alle specifiche ARIANE 5 è esploso perché il controllore del giroscopio è andato in overflow (il risultato di un numero era più grande di quanto poteva essere rappresentato con i bit assegnati alla variabile) Posso verificarlo a posteriori (testing) Posso utilizzare strumenti di sviluppo certificati (COMPCERT, compilatore C ASM corretto, INRIA)

38 Integrare Sviluppo di nuovi componenti per un software complesso Progettazione, sviluppo, test, verifica & validazione, Integrazione Controllo che tutto il resto del software continui a passare i regression test Aggiunta dei nuovi test per i nuovi componenti Integrazione continua Nottetempo test per passare il software (modificato o integrato) in produzione

39 Sfide: applicazioni Legge di Amdahl e Gustafson Richiedono applicazioni con dati sempre più grandi Previsioni del tempo Griglia più fitta dà previsioni migliori Video/Cinema Tempo reale per filmati full HD Simulazioni (chimica, fisica) Time step piccolo dà simulazioni migliori (e.g. studio di nuovi farmaci)

40 Nuove applicazioni (esempio) Senza luce Dove vado? Ad Hoc Network Arriva un canotto Sottopasso allagato

41

42 Nuove applicazioni (esempio) Stereo vision Disparity map Diff frame Suoni

43

44