Risparmio energetico nei Data Center

Transcript

1 Risparmio energetico nei Data Center Danilo Ardagna, Mara Tanelli, Politecnico di Milano Politecnico di Milano, 22 Febbraio 2010

2 Consumi energetici dei Data Center: un problema ambientale... I DC sono responsabili dello 0.5% del consumo elettrico mondiale Nei paesi tecnologicamente avanzati: In UK, % In USA, 1.5% Dal punto di vista ambientale: 2% delle emissioni di CO 2 mondiali % Consumo Energia settore IT in Europa 2020 Cellular phone Network Telecom Network 2005 Server & Data Center 0,0% 5,0% 10,0% 15,0% 20,0% 25,0% Source: EU Commission

3 Consumi energetici dei Data Center: ma soprattutto economico Company Server Energia elettrica (TWh) Costo ebay 16K 0.06 $3.7M Microsoft >200K 0.6 >$36M Google >500K 6 >$38M IT costs New Servers costs Energy and cooling costs Number of Servers (M units) 28% 12% 35% 25% Source: EU Commission Source: Microsoft Research

4 Origine delle inefficienze Courtesy of IBM

5 Nuove tecnologie per maggiore efficienza Virtualizzazione Le risorse hardware degli elaboratori (CPU, RAM, ecc...) sono partizionate in più macchine virtuali (VM) Ciascuna VM astrae le risorse fisiche dell'elaboratore e si comporta come un singolo elaboratore stand-alone E' quindi possibile l'esecuzione contemporanea di più VM sullo stesso elaboratore avendo comunque delle garanzie sulle prestazioni Un solo sistema operativo Dynamic Frequency Scaling (DFS) Un sistema operativo per ogni VM I moderni processori possono operare in diversi stati detti p-state (performancestate) a ciascuno dei quali sono associati un valore di frequenza ed uno di voltaggio La transizione da un p-state ad un altro comporta una modifica della frequenza del server e, di conseguenza, della sua capacità e del suo costo

6 Energy Proportional Computing Il consumo energetico dei server non è proporzionale al carico di lavoro Le CPU sono tra i componenti più efficienti Le tecnologia hardware sono migliorate di un fattore 3 negli ultimi anni

7 Energy Proportional Computing ssj_ops/watt Q4-07 Q1-08 Q2-08 Q3-08 Q4-08 Q1-09 Q2-09 Q3-09 Q4-09 Q ott gen apr ago nov feb mag set dic mar-06 Copyright Standard Performance Evaluation Corporation (SPEC). All rights reserved. Reprint with permission.

8 Power Usage Efficiency PUE= Energia totale del Data Center Energia dell infrastruttura IT In media: PUE=2 Google Container DC (2008): PUE= 1.24

9 Ottimizzazione dei sistemi di condizionamento Ricircolo del calore Container based DC Scheduling ottimale delle richieste Richieste Richieste Google Belgio Scheduler On demand data center! Sun BlackBox Sandeep Gupta - Thermal-aware Task Placement in Data Centers

10 Il caso Google 36 Data Center worldwide Numero di ricerche Luglio 2008: 48.7 miliardi Numero di ricerche di picco: 65 millioni/h Energia per ricerca: 1kJ CO 2 per ricerca: 0.2 g

11 Risparmio energetico nei Data Center: l approccio del progetto GAME-IT Green Active Management of Energy in IT systems

12 Scenario di riferimento Data center di grandi dimensioni Criticità: Costi energetici Necessarie garanzie di Qualita del Servizio (QoS) Variabilità delle condizioni di carico Soluzioni: Trade-off tra obiettivi di QoS e di risparmio energetico E necessario disporre di metodi quantitativi gestire tale trade-off già in fase di progetto Approcci di gestione automatica (Autonomic Computing) Riconfigurazione dinamica dell infrastruttura del data center per gestire il trade-off tra prestazioni e consumi

13 Struttura di un sistema di Autonomic Computing Web Server 1 Web Server 2 Web Server 3 Insieme dei server fisici Internet

14 Gestione attiva dei service center: visione d insieme Infrastruttura del Service Center VM 1 VM 2 VM n App 1 App 2 App n S.O. S.O. S.O. Virtual Machine Monitor Controllore a livello infrastrutturale Pianificazione a lungo termine Modelli a reti di code Ottimizzazione non lineare Scala temporale: decine di minuti/ore Ripartizione di carico su ciascuna macchina Obiettivi di prestazione per la singola macchina Quantificazione obiettivi di prestazioni e consumo Controllori a livello macchina System Controller DFS frazione CPU probabilità di ammissione misure di prestazione obiettivi Controllore a livello macchina Pianificazione a breve termine Modelli dinamici Teoria del controllo Scala temporale: minuti/secondi

15 Controllore a livello macchina Step 1: Modellistica dinamica (1/2) Problema: ottenere modelli dinamici di Web server orientati al controllo a partire da dati sperimentali I metodi e gli strumenti utilizzati per l identificazione devono essere in grado di: Operare sia off-line sia on-line Essere scalabili Tenere conto esplicitamente delle condizioni variabili del carico Essere funzionali al progetto di sistemi di controllo Approcci disponibili: solo off-line e SISO Approccio proposto: identificazione sia off-line sia on-line di modelli (scalabili) MIMO

16 response time [s] Controllore a livello macchina Step 1: Modellistica dinamica (2/2) response time [s] measured application 1 LPV Model 5 4 measured application 2 LPV Model time [min] time [min]

17 Controllore a livello macchina Step 2: Progetto del sistema di controllo (1/2) Problema: utilizzare i modelli identificati per progettare sistemi di controllo in retroazione in grado di garantire a priori stabilità e prestazioni Requisiti di prestazione: garantire un dato tempo di risposta, definito e negoziato tra i clienti ed il gestore dei servizi garantire un minimo numero di richieste da ammettere nel sistema e, nel contempo, 1. massimizzare il numero di utenti serviti: obiettivo di Qualità del Servizio (QoS) 2. minimizzare il consumo energetico: obiettivo di risparmio energetico (Energy Saving ES)

18 Controllore a livello macchina Step 2: Progetto del sistema di controllo (2/2) s k k T ref,( k,..., k N ) xˆk LPV-MPC Controller s k k P f k ( x,, P, s, f ) + state observer xˆk Possibilità di analizzare e valutare le politiche di gestione combinata di QoS e Costi Energetici in fase di progetto J N (, k ), ( x,, P, s, f ), QoS Risparmio energetico J QoS, J ES Capacità di progettare un controllore che implementa tali politiche sul sistema J QoS J ES

19 Controllore a livello infrastrutturale Step 1: Modellistica del sistema Modello a reti di code: insieme di server multi-classe con coda di attesa multi-classe più un ritardo (think time) Risorse assegnate alle VM mediante ripartizione dipendente dal carico di ciascuna applicazione Le richieste giungono al Data Center da una sorgente esterna con frequenza λ h HTTP servers Application servers DBMS servers Una volta elaborata, una richiesta o torna al sistema come richiesta di classe h con probabilità p h,h o è considerata servita h p h,h I server rappresentano l'insieme di server fisici che supportano le richieste alle applicazioni

20 Controllore a livello infrastrutturale Step 2: Formulazione e soluzione del problema di ottimizzazione (1/3) Il problema di gestione dell infrastruttura è formulato come un problema di ottimizzazione con le seguenti variabili decisionali: x i accensione/spegnimento server i (var. binaria) h i,j rate di arrivo sul server i delle richieste per la VM j della classe h h i,j frazione di CPU assegnata al server i per la VM j della classe h z h i,j allocazione sul server i della VM j della classe h (var. binaria) f i, frequenza di operazione del server i La politica di gestione del sistema è ottenuta con metodi di ottimizzazione non lineare a partire da una soluzione iniziale ammissibile ottenuta con una euristica ad-hoc

21 Controllore a livello infrastrutturale Step 2: Formulazione e soluzione del problema di ottimizzazione (2/3) Scenario 1: utenti dalla stessa time zone Scenario 2: utenti da time zone diverse risparmio medio scenario 1 15% risparmio medio scenario 2 25% confronto con data center che funziona a piena capacità e in cui si tiene conto solo dei costi energetici

22 Controllore a livello infrastrutturale Step 2: Formulazione e soluzione del problema di ottimizzazione (3/3) Confronto con IBM Tivoli soluzione proposta IBM Tivoli IBM Tivoli soluzione proposta

23 Sviluppi Futuri Ad oggi siamo in grado di: regolare il tempo di servizio delle singole macchine con diversi meccanismi di attuazione (DFS, admission control, virtualizzazione) effettuare l allocazione delle risorse in base ad obiettivi combinati di QoS e risparmio energetico Nel corso del prossimo anno ci occuperemo di: integrare i due livelli per sfruttare un flusso di informazioni bidirezionale che ne consenta un ulteriore ottimizzazione completare lo sviluppo del middleware per l analisi sperimentale delle prestazioni del sistema complessivo

24 Ringraziamenti Marco Lovera, Alessandro Barenghi, Alessandro Colleoni, Gianpaolo Cugola, Politecnico di Milano Li Zhang, IBM Research Massimo Leoni, IBM Italy Paolo Costa, Kushagra Vaid, Microsoft Research Klaus Lange, HPlabs

25 Grazie per l attenzione