Esperienze di elaborazione dati con Hadoop al CERN e ad ATLAS

Transcript

1 Esperienze di elaborazione dati con Hadoop al CERN e ad ATLAS Stefano Alberto Russo ATLAS-Udine Group

2 Chi sono? Laureato in Informatica all Università degli Studi di Trieste, con una tesi sul GRID ed High Perforomance computing Prossimo alla Laurea Specialistica in Fisica Computazionale presso l Università degli Studi di Udine. Tecnical Student al dipartimento IT del CERN per un anno Collaboratore dell esperimento ATLAS con il gruppo ATLASUdine. Mezzo fisico, mezzo informatico.. :)

3 Scaletta Gli esperimenti LHC al CERN di Ginevra sono intrinsecamente legati all analisi di grandi quantitativi di dati, producendo annualmente più di 15 Petabyte di informazione. Partendo da una panoramica su LHC e sull esperimento ATLAS, passando per il modello di storage e distribuzione dati del CERN, vedremo come alcuni limiti degli approcci oggi utilizzati sia per la gestione che l analisi possano venire risolti adottando uno strumento open all avanguardia nell industria IT: Hadoop.

4 Scaletta CERN, LHC, ATLAS STORAGE E DISTIBUZIONE DATI COMPUTING MODEL HADOOP

5 CERN Conseil Européen pour la Recherche Nucléaire L' Organisation assure la collaboration entre États européens pour les recherches nucléaires de caractère purement scientifique et fondamental ( ) L Organisation s abstient de toute activité à fins militaires et les résultats de ses travaux expérimentaux et théoriques sont publiés ou de toute autre façon rendus généralement accessibles.

6 CERN Sul confine franco-svizzero nei alla periferia di Ginevra, conta 20 stati membri e circa una decina di migliaia tra scienziati, tecnici ed ingegneri.

7 LHC Acceleratore di particelle che fornisce la materia prima di studio per i fisici particellari: le collisioni. La filosofia è un po' come far scontrare due automobiline per vedere come sono fatte dentro (seriously!) Image credits: CERN

8 LHC Due fasci di protoni fatti girare in senso opposto e fatti incrociare (scontrare) nei detector (gli esperimenti) Protoni ottenuti ionizzando atomi di idrogeno

9 LHC I protoni sono iniettati in una serie di acceleratori che li accelerano sempre di più. LHC è l'ultimo passaggio LHC si estende per 27 km a circa 100 metri sottoterra (!)

10 LHC Image credits: CERN

11 GLI ESPERIMENTI I fasci di protoni di LHC vengono fatti incrociare in 4 punti, dove ci sono 4 esperimenti ATLAS CMS ALICE LHC-b

12 ATLAS Per capire cosa succede quando due protoni di scontrano e si scompongono in altre particelle serve un detector LHC Image credits: CERN

13 ATLAS Le collisioni rilevate dal detector sono come delle immagini dove il colore indica l'intensità di energia delle particelle. Così le possiamo distinguere, cerchiamo quelle nuove! Ci sono qualcosa come un miliardo di collisioni al secondo, portate a solo 2000 dai pre-filtraggi Image credits: CERN Per ogni esperimento, questo porta a circa 15 Petabyte l'anno Da salvare da qualche parte E da analizzare (!!!)

14 Scaletta CERN, LHC, ATLAS STORAGE E DISTIBUZIONE CERN COMPUTING MODEL HADOOP

15 CASTOR CASTOR riceve i flussi di dati dai detector degli esperimenti. E' un sistema di salvataggio dati ibrido: Metà su disco e metà du nastro Più di 1500 server, è quasi a 100 PB! è ovviamente basato su Linux :) Gestione complicata: tante le componenti (e tanti i possibili punti di errore!) Image credits: Derrick Coetzee

16 WLCG Worldwide Tier-3 (Trieste) LHC Computing Grid Struttura a tier : più si esce più ci si avvicina all'analisi finale degli utenti. Image credits: CERN

17 WLCG Image credits: James Cochran, ISU

18 Scaletta CERN, LHC, ATLAS STORAGE E DISTIBUZIONE CERN COMPUTING MODEL HADOOP

19 HADOOP Che cos'è Hadoop..?

20 HADOOP Che cos'è Hadoop..? non ve lo dico ancora, prima vediamo perchè è nato

21 HADOOP Contesto: analisi di tonnelate di dati non correlati Esempio: contare le parole in un testo (i.e. motori di ricerca web) Ogni pezzo del testo può essere analizzato in modo indipendente Cioè può essere suddiviso a piacimento: Testo Blocco 1 Blocco 2 Blocco 3 Blocco 4 Blocco 5 I blocchi si possono analizzare in parallelo, sommando alla fine i conteggi di ogni parola Non tutti i problemi sono di questo tipo (vedi simulazioni meteo)

22 HADOOP Ok.. ma perchè dovrebbe interessarmi questo tipo di analisi? Oggi generiamo una quantità esorbitante di informazione digitale rispetto al passato. Quella interessante è quasi tutta testuale! Web Social media Acqusti Accessi... Hai acquistato questo libro, potrebbe piacerti anche.. Trend di argomenti (#London2012, Film&Artisti) Nuove strategie di decisione per le industrie in base al mercato Previsioni delle tendenze E' la big data revolution, e sta dando una notevole spinta innovativa!

23 HADOOP Hadoop nasce per questo tipo di analisi è un framework che supporta applicazioni distribuite (che lavorano in parallelo) con elevato accesso ai dati progetto della Apache Software Foundation, sotto una licenza libera! permette di lavorare con migliaia di nodi e petabyte di dati. è stato ispirato da Google MapReduce e dal Google File System. Yahoo! è il più grande contributor, è usato anche da: AOL, Ebay, Facebook, IBM, ImageShack, Joost, Linkedin, The New York Times, Twitter...

24 HADOOP ma qual'è la novità? Perchè quello che c'era prima non va più bene? dati analisi

25 HADOOP ma qual'è la novità? Perchè quello che c'era prima non va più bene? dati analisi con tanti dati, è un collo di bottiglia!

26 HADOOP Hadoop permette di analizzare i dati direttamente dove sono salvati! Fusione risorse di calcolo e di storage Niente più trasferiementi di dati (o quasi) dati + analisi

27 HADOOP Hadoop permette di analizzare i dati direttamente dove sono salvati! Testo Blocco 1 Blocco 2 Blocco 3 Blocco 4 Blocco 5

28 HADOOP Hadoop permette di analizzare i dati direttamente dove sono salvati! Blocco 1 dati + analisi Blocco 2 Alla fine, si sommano i risultati parziali per ottenere quello definitivo Questo modello va anche sotto il nome di MapReduce Blocco 4 Blocco 3 Blocco 5

29 CERN al CERN non si fa quasi analisi dati di fisica ma tutti i sistemi informatici generano file di log Quanti? Tanti! CASTOR ne produce 30GB/giorno Ciao, sono il pc pippo. Ho avuto un errore (#32) in scrittura sul file pluto Ore: 15:32 del 30/07/2012 Indispensabile analizzarli per correggere gli errori

30 CERN Salvare e analizzare tutti I log di CASTOR con un database dava problemi, erano troppi! Quindi: usiamo Hadoop! Dopo un test iniziale, Hadoop è ora in produzione al CERN per l'analisi dei file di log di CASTOR Il suo utilizzo ha rimpiazzato parte dei database Oracle ed ha permesso di notevoli risparmi e migliori performance

31 ATLAS I centri di calcolo che fanno analisi dei dati di LHC stanno iniziando a soffrire Ricordo che LHC genera 15 PB di dati all'anno Per far fronte all' enorme trasferimento dati richiesto, si sta addirittura iniziando a collegare i nodi (le CPU) in matrice

32 ATLAS Ma.. le 2000 collisioni al secondo rilvate dal detector di ATLAS sono indipendenti!!! Possiamo quindi usare Hadoop anche per questo tipo di analisi..e ridurre a quasi zero I trasferimenti dati. C'è qualche complicazione tecnica, ma nulla di insormontabile

33 ATLAS Test condotto per l'analisi del top quark con il gruppo ATLAS-Udine Cluster Hadoop di 10 nodi e 8 cpu per nodo Dataset LHC 2011 fino ad Agosto Analisi di circa 330 GB, in 8830 files Dataset Blocco 1 Blocco 2... Blocco 8828 Blocco 8830 Collisione 1 Collisione 2 Collisione..

34 HADOOP Hadoop permette di analizzare i dati direttamente dove sono salvati! Blocco 1 dati + analisi Blocco 2 Blocco 4 Blocco 3 Blocco 5

35 ATLAS Risultato: trasferimento dati quasi azzerato rispetto al modello computazionale standard

36 HADOOP: BENEFICI Hadoop è... Performante: analizzare i dati in loco sui nodi significa: non congestionare la rete (si risparmia in hardware) di conseguenza, velocizzare le applicazioni che devono processare (analizzare) grandi quantitativi di dati Scalabile: un cluster Hadoop può essere esteso senza preoccuparsi del bilanciamento fra capacità della rete di comunicazione e potenza di calcolo Ben supportato: una grande cominità mondiale, tra cui aziende leader come Yahoo! e Facebook, supporta e migliora il progetto in continuazione..e ovviamente.. è Open Source :)

37 FINE..domande?

38 Licenza d'uso di questo documento Quest'opera, eccetto dove esplicitamente specificato, è stata rilasciata sotto la licenza Creative Commons Attribuzione-Condividi allo stesso modo 2.5. Per leggere una copia della licenza visita il sito web o spedisci una lettera a Creative Commons, 559 Nathan Abbott Way, Stanford, California 94305, USA.