La farm di LNL-Padova: stato e piani per il futuro

Transcript

1 La farm di LNL-Padova: stato e piani per il futuro Stefano Lacaprara INFN Padova meeting T3-INFN per CMS Milano Bicocca, 23-Apr-2010 Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

2 Situazione attuale LNL/PD: analisi T3-like LNL PD WN CE WN Workgroup Switch Catalyst CiscoSystems Workgroup Switch CiscoSystems Catalyst NFS Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

3 Accesso interattivo esteso a T2 LNL LNL PD CE WN WN Workgroup Switch Catalyst Workgroup Switch Catalyst CiscoSystems CiscoSystems NFS Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

4 Accesso interattivo esteso a T2 LNL: jobs LNL PD CE WN WN jobs Workgroup Switch Catalyst Workgroup Switch Catalyst CiscoSystems CiscoSystems CRAB NFS Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

5 Workflow per Analisi at Tier3 LNL PD CE Workgroup Switch Catalyst CiscoSystems Workgroup Switch CiscoSystems Catalyst NFS Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

6 Workflow per Analisi at Tier3 T2(s) Local Develop test Code CPU Disk File Mover Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

7 Workflow per Analisi at Tier3 T2(s) CRAB Local Stage out CPU Disk Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

8 Workflow per Analisi at Tier3 T2(s) CRAB Local Stage out CPU Disk Publish Iterate (skim, SD,...) Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

9 Workflow per Analisi at Tier3 T2(s) CRAB Local Stage out CPU Disk CRAB copydata Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

10 Workflow per Analisi at Tier3 T2(s) CRAB Local CPU Stage out Disk GridFTP server Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

11 Workflow per Analisi at Tier3 T2(s) Local Local ana Root (proof?) Fw lite... CPU Disk Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

12 Situazione attuale LNL/PD: analisi T3-like Tier-2 LNL-Padova parte dei WN e nella sala macchine di Pd, collegata in dark-fiber a LNL: storage solo a LNL, unico CE Accesso ai WN solo ed esclusivamente via grid (CRAB e PA) Nessun accesso interattivo ai WN Al T2 c e una, che di fatto non viene usata Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

13 analisi T3-like a Padova oggi A PD ci sono un tot di macchine che fungono da e da macchine di lavoro interattivo per l utenza locale e collaboratori (Bologna, Cipro,... ) Installazione locale (e indipendente) di CMSSW, via afs. C e anche LSF (solo sulle stesse) ma assai poco usato. Disco locale O(15TB) raid5/raid6 montato via NFS sulle Cpu e storage presi con fondi dotazione gruppo I Collegamento fibra con storage di LNL (switch 10 Gb/s) disponibile anche dalle interattive. Accesso via dcap ai files dello di LNL, usato soprattutto per test e sviluppo di codice usando dataset presenti a LNL Uso anche per processing di analisi, assai scoraggiato e poco efficente (a meno di usare LSF locale) Vorremmo provare proof, ma non l abbiamo ancora fatto. Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

14 accesso interattivo T2 LNL/PD: futuro Disponibili a usare alcuni WN del Tier-2 come da dedicare all accesso interattivo ad una comunita allargata Dalla accesso alle versioni di CMSSW installate centralmente sul T2 Accesso ai dati presenti sullo storage del T2 Spazio disco direttamente utilizzabile dagli utenti sottraendolo allo storage dell Limitato supporto utenti, niente installazioni speciali o altro: quello che viene con OS e CMSSW e quello che puoi avere Quote per uso CPU (lunghezza processi) e disco. Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

15 accesso interattivo T2 LNL/PD: futuro (2) In teoria si puo permettere l accesso ai WN via LSF del T2, ma perche? Per by-passare la grid? Siamo sicuri di volerlo fare? Per motivi organizzativi tali andrebbero installate a Padova, storage sempre a LNL. Stiamo installando una fatta cosi a Pd per test: l idea e pescare il software di CMSSW delle macchine interattive di Padova, eventualmente lasciandone una da parte per installazioni di versioni di CMSSW altrimenti obsolete. Distinte dalle e disco di Padova che usiamo adesso per uso interattivo. Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

16 Workflow analisi: T2/T3 In locale Dataset sono in T2, sviluppo analisi su una locale (anche laptop!) dove ho copiato (via filemover) qualche file per testare il codice. forse è la parte piu debole: se non ho localmente accesso a dati su cui fare training e sviluppo, non userò le risorse locali per questo. Lancio job (via crab) su T2(s), analizzo dati e produco output. Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

17 Workflow analisi: T2/T3 (2) Grid/T2 1 output edm da accedere via crab ancora una volta (tipo Skim) salvo output su mio T2 di riferimento (dove ho spazio) pubblico in DBS giro ancora con crab itero quante volte serve alla fine... 2 output che voglio analizzare in interattivo 3 Salvo output su T2 (area privata temporanea/volatile) 4 copio output su mio locale (crab -copydata) Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

18 Workflow analisi: T2/T3 (3) Alternativa per T3 sul disco che ho in sezione (dotazioni) ci metto un server gridftp, cosi posso salvare direttamente l output senza passare dal mio T2 attenzione: mantenere uno storage con gridftp server in T3 up and running 24x7 con success rate per copia da remoto > 99% potrebbe non essere banale! Non posso pubblicare, ma non mi serve. Se devo pubblicare, lo faccio al T2 e faccio girare li i miei job. Nome CMS per gridftpserver at Tier3 T3 IT XXX e non il path completo (da discutere con CMS, AnaOps, non critico) Se poi il T3 vuole mettere su uno, PhedEx, un CE, e fare un T2 in piccolo, non c e problema: vuol dire che il passo precedente e piu facile in quanto gia in piedi. Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13

19 Workflow analisi: T2/T3 (4) Di nuovo in locale ho output (root-ple/pattuple/whatever) localmente, su macchine di sezione (dotazione) e disco (sempre da dotazioni), ci giro iterattivo se serve ancora più cpu di un solo laptop, si può usare proof (assumendo che l output a questo punto sia root-like) gestione disco locale dipende da dimensioni. piccolo posix e NFS (lo facciamo a PD, ha limiti) medio/grande dcache o simili usando esperienza dei T2 Stefano Lacaprara (INFN Padova) LNL-PD T2-3 T3 23-Apr / 13