Realizzazione di containers docker per l uso interattivo del software di CMS e per la creazione di un nodo Grid on-demand su risorse opportunistiche

Transcript

1 - Catania Realizzazione di containers docker per l uso interattivo del software di CMS e per la creazione di un nodo Grid on-demand su risorse opportunistiche Gigi Cappello, Diana Salemi (DFA-UniCT) G.Cappello, D.Salemi (DFA-UniCT) 1

2 Virtualizzazione light con Docker Docker ( è un progetto open source che automatizza il deployment di applicazioni all'interno di container software dotati di immagini Linux. Su sistemi Linux non necessita di macchine virtuali utilizza isolamento delle risorse del kernel linux (cgroups, namespaces ) non installa un sistema operativo separato guadagno in termini di prestazioni rispetto a VM Le immagini generate dagli utenti sono facilmente accessibili tramite l archivio docker hub ( Assicurata la sicurezza dell host Filosofia version control estrema semplicità di modifica/update $ docker run hello-world Unable to find image hello-world:latest locally Pulling repository hello-world [ ] $ docker pull hello-world [ ] G.Cappello, D.Salemi (DFA-UniCT) 2

3 Virtualizzazione light con Docker La proposta: Utilizzare dei container docker opportunamente costruiti per accrescere le risorse hardware a disposizione dell analisi in CMS. Utilizzo 1 - CMSSW interattivo Utilizzo interattivo di CMSSW in hardware non standard (PC win, MAC) o linux non settato: senza dover installare il software e le sue dipendenze; senza dover installare e settare macchine virtuali*; senza allocare grosse quantità di disco. Utilizzo 2 - T3_IT_Opportunistic Utilizzo di risorse opportunistiche non pensate per il calcolo in CMS o scientifico in generale, per generare nodi grid on-demand: indipendentemente dal sistema installato; senza dover installare il software e le sue dipendenze; in modo sicuro per la farm host. G.Cappello, D.Salemi (DFA-UniCT) 3

4 Uso di docker per CMSSW interattivo Realizzazione di un container docker con µcernvm: estremamente leggera (~30MB); basata su SLC6; naturalmente up-to-date. Container Container µcernvm µcernvm CERNvmFS CERNvmFS Parrot (attach file system) /afs/cern.ch Parrot (attach file system) /afs/cern.ch VirtualBox Host linux system Host win/mac system Macchina linux Macchina win/mac G.Cappello, D.Salemi (DFA-UniCT) 4

5 Uso di docker per CMSSW interattivo Per iniziare ad utilizzare CMSSW su qualunque macchina bisogna installare docker: e lanciare un singolo (lungo) comando: sudo yum install docker-io sudo service docker start docker run -v /<user>/<path>/certificates:/root/.globus -v /<user>/<path>/data:/data \\ -e CMS_LOCAL_SITE=T3_IT_Opportunistic \\ -e HTTP_PROXY=<localhost>:3128 \\ -e FRONTIER_PROXY=<localhost>:3128 \\ -ti tommasoboccali/cmsui_test /init G.Cappello, D.Salemi (DFA-UniCT) 5

6 Uso di docker per CMSSW interattivo docker run -v /<user>/<path>/certificates:/root/.globus -v /<user>/<path>/data:/data \\ -e CMS_LOCAL_SITE=T3_IT_Opportunistic \\ -e HTTP_PROXY=<localhost>:3128 \\ -e FRONTIER_PROXY=<localhost>:3128 \\ -ti tommasoboccali/cmsui_test cmsui_test /init Lancia il comando /init appena avvia il container cmsui_test monta cvmfs tramite parrot e setta le variabili d ambiente per CMSSW e VOMS *********************************** *** Welcome to CernVM in Docker *** *********************************** -- based on ucernvm bootloader version cernvm.x86_64 [INF] Mounting operating system /cvmfs/cernvm-prod.cern.ch/cvm3 with parrot [INF] Unpacking preloaded cache [INF] Loading ELF interpreters 2015/10/12 13:03:25.78 parrot_run[47] notice: parrot_run [HEAD:9b6a0d01-DIRTY] has not been tested on Linux fc20.x86_64 yet, this may not work 2015/10/12 13:03:26.13 parrot_run[1] notice: parrot_run [HEAD:9b6a0d01-DIRTY] has not been tested on Linux fc20.x86_64 yet, this may not work [INF] OS mounted from parrot, continue to initialize Scientific Linux release 6.6 (Carbon) G.Cappello, D.Salemi (DFA-UniCT) 6

7 Uso di docker per CMSSW interattivo docker run -v /<user>/<path>/certificates:/root/.globus -v /<user>/<path>/data:/data \\ -e CMS_LOCAL_SITE=T3_IT_Opportunistic \\ -e HTTP_PROXY=<localhost>:3128 \\ -e FRONTIER_PROXY=<localhost>:3128 \\ -ti tommasoboccali/cmsui_test cmsui_test /init Setta variabili di ambiente all interno del container: CMS_LOCAL_SITE = T3_IT_Opportunistic: false-site per far partire l accesso dati su Xrootd) Proxy Squid locale (se presente): riduce drasticamente il tempo di avvio (in caso contrario connessione diretta al CERN) G.Cappello, D.Salemi (DFA-UniCT) 7

8 Uso di docker per CMSSW interattivo docker run -v /<user>/<path>/certificates:/root/.globus -v /<user>/<path>/data:/data \\ -e CMS_LOCAL_SITE=T3_IT_Opportunistic \\ -e HTTP_PROXY=<localhost>:3128 \\ -e FRONTIER_PROXY=<localhost>:3128 \\ -ti tommasoboccali/cmsui_test cmsui_test /init Per linkare delle cartelle locali all interno del nuovo file system: spostare facilmente certificati e file utili ; mantenere i file prodotti dopo la chiusura del container (non vengono distrutti); accesso diretto in locale ai file prodotti per analisi ROOT. cd /root source /cvmfs/grid.cern.ch/emi3ui-latest/etc/profile.d/setup-ui-example.sh source /cvmfs/cms.cern.ch/cmsset_default.sh + setup CRAB + lancio job analisi G.Cappello, D.Salemi (DFA-UniCT) 8

9 Uso di docker come nodo on-demand Utilizzare le risorse di una generica farm per effettuare run di jobs CRAB. Filosofia simile al caso interattivo, ma questa volta l utente accede alla macchina come nodo grid (T3_IT_Opportunistic); bisogna dotare il container di un batch-queuing system (HTCondor). Container µcernvm User CRAB jobs Host farm Parrot (attach file system) CERNvmFS /afs/cern.ch VOMS, CMSSW HTCondor T3_IT Opp. G.Cappello, D.Salemi (DFA-UniCT) 9

10 Uso di docker come nodo on-demand Utilizzare le risorse di una generica farm per effettuare run di jobs CRAB. Filosofia simile al caso interattivo, ma questa volta l utente accede alla macchina come nodo grid (T3_IT_Opportunistic); bisogna dotare il container di un batch-queuing system (HTCondor). Container SLC6 (minimal) + VOMS + Parrot + HTCondor User CRAB jobs Host farm Parrot (attach file system) CERNvmFS CMSSW /afs/cern.ch T3_IT Opp. G.Cappello, D.Salemi (DFA-UniCT) 10

11 Uso di docker come nodo on-demand Creare ed accendere uno squid esterno docker run -ti -d -p 3128:3128 tommasoboccali/frontiersquid /bin/bash /root/keepaliv Creare il proxy Avviare lo script: docker run -d -e CMS_LOCAL_SITE=T3_IT_Opportunistic -e FRONTIER_PROXY=<HOSTNAME DELLA MACCHINA HOST>:3128 -v /root/.globus:/root/.globus tommasoboccali/condorwn /root/startwn Lanciare i job crab config.data.ignorelocality = True config.debug.extrajdl = ['+DESIRED_SITES="T3_IT_Opportunistic"'] attendere le code. G.Cappello, D.Salemi (DFA-UniCT) 11

12 Conclusioni Docker è sempre più lo standard per il deployment di applicazioni on-demand (in particolare su ambiente Linux): più efficiente di una VM; version-control e facile update; Studiate due possibili applicazioni all analisi dei dati di CMS Interattivo (utilizzo di CMSSW su qualunque personal computer) T3 node On-demand (utilizzo di farm non pensate per CMSSW) Risultati incoraggianti in entrambi i casi Vantaggi nell utilizzo di queste soluzioni: nessuna installazione; disporre di nuove risorse a costo quasi-zero; sempre up-to-date; sicurezza host. Un interesse generale per le soluzioni basate su docker è stato mostrato da parte del CNAF e degli esperimenti di LHC in particolare. Twiki CMS: G.Cappello, D.Salemi (DFA-UniCT) 12