Il Grid Computing, un nuovo strumento di lavoro per i ricercatori Informatics Division INFO Coordinatore Calcolo Scientifico Ing. Silvio Migliori (migliori@enea.it) (04-2004)
The Grid: The Web on Steroids http:// Web: Uniform access to HTML documents Ian Foster http:// Grid: Flexible, high-perf access to all significant resources Software catalogs Computers Sensor nets Colleagues Data archives On-demand creation of powerful virtual computing systems
Ian Foster Network Exponentials Network vs. computer performance Computer speed doubles every 18 months Network speed doubles every 9 months Difference = order of magnitude per 5 years 1986 to 2000 Computers: x 500 Networks: x 340,000 2001 to 2010 Computers: x 60 Networks: x 4000 Moore s Law vs. storage improvements vs. optical improvements. Graph from Scientific American (Jan- 2001) by Cleo Vilett, source Vined Khoslan, Kleiner, Caufield and Perkins.
Ricerca Industia Grid computing has been evolving in the scientific and technical computing communities for decades, but recent developments of technology, software and perhaps most important, industry standards, have brought this promising approach to distributed computing into the mainstream. Companies such as Charles Schwab, Credit Suisse First Boston, Eli Lilly, Johnson & Johnson, Morgan Stanley, Novartis, UBS and Wachovia were quick to see the potential of Grid computing and have already adopted Grid computing initiatives resulting in significant IT cost savings and dramatically improved productivity
Architettura --- > Funzioni Application User Collective Resource Connectivity Fabric Software catalogs Computers? Sen sor net Colleagues Data archives s Le Funzioni / Esigenze comandano sulla tecnologia
Alcuni Criteri di scelta di una GRID Funzioni da realizzare (calcolo, DB, dimostrativi..) Utenza (ricercatori generici, ricercatori tematici, produzione,..) Applicativi (disponibilità del sorgente, commerciali, paralleli, seriali, interattivi..) Risorse economiche Qualità di servizio Interazione con altre GRID
Cosa definire Tecnologia ---- > Utente I servizi dell utente finale Il patrimonio conoscitivo dell utente Le modalità di lavoro dell utente I Servizi del GRID Protocollo di comunicazione su cui basare i servizi ( Globus, Condor, Legion ) Risorse Software/Hardware
Alcune difficoltà nascoste (non tecniche) Impatto psicologico Utenti Amministratori Responsabili. (Sensazione della perdita del controllo/potere..) Criteri di amministrazione Distribuiti, Coinvolgimento costante di tutti (U., A.,R, ) Impatto culturale Lavorare in termini funzionali e logici e non fisici (mi collego alla macchina pippo.enea.it -- - > ho necessità di una macchina Linux ) Formazione costante Tempo per la crescita culturale
CPUs : 500 GFlops ENEA GRID Main Service Main Computational Code : Nuclear, FEM, CFD, Electromagnetic,. Virtual reality environments Parallel environment for user code Integration GRID to GRID: (DATAGRID, SPACI, EGEE) CNR Tor Vergata GigaBit-Link ENEA GRID Graphic Interface Data Grid at ESA\ESRIN
GEANT boquad.bologna.enea.it grid0007 ENEA GRID GigaBit-Link CNR Tor Vergata dafne.casaccia.enea.it power3.frascati.enea.it Kleos.portici.enea.it infocal.trisia.enea.it...brindisi.enea.it DataGrid at ESA\ESRIN WEB(ICA) Citrix Nfuse Citrix Metaframe ICA
ENEA INFO 8 622 Mbps 25 Gflops New IBM Power4 16 CPU 70 GFlops PORTICI 170 Cray 39 Gflops 120 Cluster Linux 50 Gflops NEW
Software Conceptual Structure NEW WEB ICA User programs & commercial code Graphic User Interface LSF multi-cluster as integrator Load LevelerTelnet LSF WEB ICA WEB ICA NEW Graphic User Interface Load Leveler Telnet LSF & File System Cluster 5 ( Portici) User programs & commercial code Graphic User Interface LSF multi-cluster as integrator Load Leveler Telnet LSF AFS Geographical cross platform& File System WEB User programs & commercial code Graphic User Interface LSF multi-cluster as integrator Load Leveler Cluster 6 ( Brindisi) Telnet LSF ICA AFS Geographical cross platform& File System Cluster 1 ( Bologna) WEB User programs & commercial code Graphic User Interface LSF multi-cluster as integrator Load Leveler Telnet LSF ICA AFS Geographical cross platform& File System Cluster 3 (Frascati) WEB Load Leveler Cluster 2 (Nord Rome) User programs & commercial code Graphic User Interface LSF multi-cluster as integrator Telnet LSF ICA AFS Geographical cross platform& File System Cluster 4 (Trisaia ) ITALIAN NATIONAL AGENCY FOR NEW TECHNOLOGY,ENERGY AND THE ENVIRONMENT Fig 6
WEB Software Conceptual Structure ICA Qualità di servizio Monitoring di sistema e d utilizzo, Recupero e Segnalazione Automatico anomalie, pianificazione sviluppo XTERM Application Portal (Metaframe/Nfuse) User programs & commercial code Graphic User Interface LSF multi-cluster as integrator LSF Load Leveler RMS AFS Geographical cross platform & File System AIX SGI SUN Compaq NT Linux Quadrics ITALIAN NATIONAL AGENCY FOR NEW TECHNOLOGY,ENERGY AND THE ENVIRONMENT
DNA Sequence system ( ABI Prism 3700) Sensors & Computational GRID Electronic Microscope (Brindisi) 300 Kev GOME DB_1 ENEA GRID DB_4 CPUS WEB ICA SSH DB_2 DB_3
Lavorare in GRID L utilizzo efficace delle risorse in rete richiede una crescita nel modo di lavorare Utente Capire come funziona logicamente la propria applicazione Avere un idea del flusso dei dati Sapere se esistono versioni per più piattaforme Provare nuovi modi di lavorare... Amministratore Installare l applicazione in modo efficiente sfruttando le informazioni fornite dall utente e dai fornitori dei codici in relazione alla propria GRID Ottimizzare le configurazioni del sistema ( Code, associazione codicicalcolatore,..)
L AMBIENTE E LE RISORSE ENEA
LSF e lo stato delle piattaforme Utilizzando l interfaccia troviamo l opzione: XLSMON
La sottomissione dei jobs Per FLUENT la schermata è leggermente più complessa; anche qui ritroviamo le opzioni come in precedenza: LSF Options: -o nomefile.%j file per l output; -w w done done(xidjob) : fa iniziare il job quando finisce il job X; -u u e-mail e Yutente: : spedisce l output all utente Y (si può usare invece di o); -b begintime: : fa partire il job all orario prescelto compatibilmente con i nodi e le licenze disponibili; -E command: : esegue un comando prima di sottomettere il job; - Options:
LSF-BATCH e lo stato del job sottomesso Cliccando su LSF-BATCH appare una schermata in cui compaiono: i job job-identifier; gli utenti; lo stato; il tipo di coda; l host di sottomissione; l host su cui va eseguito il job; l istante di sottomissione; il comando con cui il job è stato lanciato. Lo stato del job può risultare:
3D CFD Simulation on Aircraft Axial Turbin Stage with Wake & Vortex Shedding Analysis on Turbine Blades L.T.C. Large Eddy Simulation (LES) provides high resonable results on wake analysis and turbine stage performance. Pressure traces on stator trailing edge Max, min and time average Cp for the vane 195000 0.5 190000 Cp -0.5-1 -1.5 Temperature contours on Stator blades & Cp experimental data comparison Secondary flow prevision and 3D Path Lines analysis -2-2.5-0.01 0 Grid: 1 million cells CPU Time: 6000hours Elapsed Time: 525 hours on 12 IBM SP3 S platforms 2 0.01 0.02 0.03 185000 180000 175000 170000 0.04 x (m) S 1 pressure (Pa) 0 Vortex Shedding Spectrum analysis 165000 isolated stator stage stator Temperature & wakes interactions
ANALISI CFD DI UNO SMORZATORE FLUIDO Il flusso secondario L.T.C. I vortici di ristagno Il flusso principale Grid: 600,000 cells CPU Time: 960 hours Elapsed Time: 130 hours on 8 Linux platforms Pressure losses Pressure jump (Pa) Punto di progetto (apertura valvola) 3000000 2500000 2000000 1500000 1000000 500000 0 0 0.2 0.4 0.6 0.8 1 1.2 velocity (m/s) Serie1 Caratteristica parabolica dello smorzatore con valvola aperta fino a 3 mm
pareti ingresso ANALISI CFD DI UNO SMORZATORE FLUIDO uscita L.T.C. periodiche Caratteristica lineare elestica della molla di precarico Pressure jump (Pa) Pressure losses Punto di progetto (apertura Pressure valvola) losses Serie1 Punto di progetto (apertura valvola) Serie1 3000000 2500000 3000000 2000000 2500000 1500000 2000000 1000000 1500000 500000 1000000 500000 0 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0 0.1 velocity 0.2 (m/s) 0.3 0.4 0.5 0.6 Pressure jump (Pa) velocity (m/s) Caratteristica parabolica dello smorzatore con valvola chiusa Caratteristica parabolica dello smorzatore con valvola chiusa
LSF-BATCH e lo stato del job sottomesso Cliccando su LSF-BATCH appare una schermata in cui compaiono: i job job-identifier; gli utenti; lo stato; il tipo di coda; l host di sottomissione; l host su cui va eseguito il job; l istante di sottomissione; il comando con cui il job è stato lanciato. Lo stato del job può risultare:
I rapporti di velocità per le differenti piattaforme Nel diagramma che segue vengono riportati i tempi di calcolo rapportati a quelli ottenuti con 2 CPU su Sp4-1 :
Realtà virtuale verso GRID
Octane 2Proc Bologna INFO Graphic Developers Cluster Linux Alpha Graphic environment under Cray new AFS new Octane 2Proc Casaccia Users Robotica IBM SP Onyx2 4Proc Casaccia new CATIA User (AIX) FUS Project Users Onyx3 4Proc Frascati ITALIAN NATIONAL AGENCY FOR NEW TECHNOLOGY,ENERGY AND THE ENVIRONMENT new User Interferometria Oligrafia Simulazione Robotica Fig 2a
Installazioni Attive in ENEA C.R. Frascati C.R. Bologna C.R. Casaccia Gruppo di lavoro: Silvio Migliori INFO Guadagni Roberto INFO-GER Impara Michele INFO-GER-BOL Samuele Pierattini INFO-GER-BOL Graziano Furini INFO-GER-BOL De Gaetano Antonio INFO-GER-FRA Antonio Perozziello INFO-GER-FRA Giuseppe Ronci FIS-ACC-FRA Salvatore Pecoraro INFO-GER-CAS
DRP - Remote Handling Operations VR TCP/IP
COMMESSA IGNITOR Progettazione assistita dalla simulazione VR Disegni sviluppati da Ansaldo in CATIA5 Import dei modelli in DVMockup Realizzazioni di sequenze di Ass./Disass. Verifica di edge detection Estensione della commessa per il REMOTE HANDLING
PRINCE Propagazione del Rumore nell Industria Ceramica
FTUMOVIE Visualizzazione dei dati e immagini della diagnostica di FTU
COMBUSTIONE Visualizzazione di dati provenienti da simulazioni di combustione Dati formato TEC-PLOT
Nuovi modi di lavorare Es. 1 (IGNITOR) ANSALDO (GE) ORNL (USA) CRIOTEC (TO) ENEA GRID Alcune Funzioni : Condivisione Dati su area geografica Utilizzo software applicativo Condivisione delle sessioni di lavoro ENEA (ISPRA)
Nuovi modi di lavorare Es. 2 (Yann Pouillon ) ( Louvain la Neuve )
Nuovi modi di lavorare Es. 2 (Yann Pouillon )
Es. 3 Test Program GOME Output File LIV2 List of path Input File LIV1 IDL GOME Program Input File LIV1.jpg Image List of path Input File LIV1 Case-1 Case_2 Case n ENEA-Geographic SUBMITION PROCEDURE List of path Input File LIV1 IDL Program GOME Input File LIV1 Output File LIV2.jpg Image User afs/home WEB Input Files LIV1
ACCESSO AI SERVIZI DELLA CELLA afs fusione.enea.it
ENEA Main activities & resources for EGEE Integration of EGEE-GRID GRID to ENEA-GRID; 100 CPUs at 20% of time ENEA-GRID Globus Based gateway GigaBit-Link Globus Based gateway Globus Based gateway DataGrid at ESA\ESRIN EGEE GRID S-PACI GRID migliori@enea.it
Servizi GRID via WEB Accesso Unificato Tutti i servizi Servizi Windows Servizi Unix
ITALIAN NATIONAL AGENCY FOR NEW TECNOLOGY, ENERGY AND THE ENVIRONMENT RESEARCH AND TECHNOLOGY AT THE NATION S SERVICE