Procedura manuale per la creazione di un utente in AFS

Transcript

1 TUTORIAL AFS 1

2 INDICE Procedura manuale per la creazione di un utente in AFS... 3 Interfacciamento Server MetaFrame Campus2 con le home directory degli utenti su AFS Creazione dei volumi utenti sul fileserver Kratos.portici.enea.it... 7 Riavvio Demoni LSF... 9 Configurazione LAN Campus3: Problema demone ntpd Problema della cache su AFS Installazione software su AFS Cluster Configuration COMANDI AFS Comandi di tipo File Server Comandi di tipo protection Server COMANDI LSF I JOBS BSUB Bjobs

3 Procedura manuale per la creazione di un utente in AFS In primis per eseguire tale operazione bisogna avere i privilegi di amministratore, quindi con il comando Klog (nome dell amministratore) ci viene assegnato il token di amministratore di AFS. 1. Il primo passo riguarda la creazione del volume (R/W) destinato a contenere la home directory dell utente. Al volume sarà associato il nome di user.pirone nel rispetto della convenzione ENEA. La creazione del volume sarà effettuata sulla partizione /vicepa del file server Kratos : vos create server kratos.portici.enea.it -partition /vicepa -name user.pirone 2. L operazione successiva riguarda la creazione del mount point del volume. Ovvero associare al volume creato un nome simbolico, e inserirlo nell albero delle directory di AFS. Il comando seguente effettua il mount del volume user.pirone nella cella enea.it con il nome pirone_prova. fs mkmount dir pirone_prova -vol user.pirone -cell enea.it 3. Ora sulla macchina Unix o linux che utilizzi per l accesso deve essere creato l utente pirone sul SO. I comandi sono : useradd pirone passwd pirone (creo l utente) (setto la password) 4. A questo punto si potrà effettuare il release del volume che contiene il volume utente user.pirone appena creato. Questa operazione mi da la possibiltà di oggiornare le copie readonly del volume padre che contiene il volume user.pirone, rendendo cosi visibile con possibilità d accesso il suo mount point (directory). Se il mount point del volume user.pirone è stato effettuato spostandomi nella directory cd /afs/enea.it/portici/info/ fs mkmount dir pirone_prova -vol user.pirone -cell enea.it ( cosi ho effettuato il mount ) Con il comando seguente posso sapere il volume corrispondente di conseguenza alla directory info. fs lsmonut dir /afs/enea.it/portici/info/ e per esempio avrò come risultato che il volume corrispondente a info è: portici.info allora effettuerò il realese con il seguente comando : 3

4 vos realese id portici.info f cell enea.it 5. A questo punto con il comando kas creo una entry nel Authentication Database. kas create name pirone initial_passwd changeme 6. Con il comando seguente addiziono l utente oppure la macchina ad un Protection Database Group che nel nostro caso per esempio è Frascati. pts adduser user pirone -group frascati 4

5 Interfacciamento Server MetaFrame Campus2 con le home directory degli utenti su AFS. In base alla seguente architettura figura 1, si è rilevato il seguente problema. Figura 1 Nell utilizzo del prodotto Citrix si è riscontrato che alcuni utenti in particolare Pirone, Fornaci, Devito, superata l operazione di login, con la quale si accede al server MetaFrame, su cui è installato un client AFS, avevano accesso alla root di AFS, ma non avevano visibilità alla loro home directory su AFS. Secondo lo script di creazione automatica di un utente, all atto della creazione di un utente viene creato un file denominato passwd_nome utente e inserito nella seguente directory /afs/enea.it/common/etc/newacct. Questo file contiene al suo interno il percorso specifico della home directory dell utente creato su AFS. Ese. Per l utente Pirone il file passwd_pirone contiene il seguente percorso: cat /afs/.enea.it/common/etc/newacct/passwd_pirone pirone:x:797:1::/afs/enea.it/frascati/info/pirone:/usr/bin/ksf L anomalia riscontrata e che i file passwd_pirone, passwd_fornaci e passwd_devito erano visibile solo sul percorso /afs/.enea.it/common/etc/newacct/ e cioè, solo sulla copia R/W del volume su cui è strato effettuato il mount point della directory newacct. 5

6 N.B. Per sapere il volume su cui è stato effettuato il mount point della directory newacct è stato utilizzato il comando seguente: common.etc ( nome del volume corrispondente) fs lq /afs/.enea.it/common/etc/newacct Per aggiornare la copia readonly di questo volume, e quindi rendere visibili i file passwd_pirone ecc.anche sul percorso /afs/enea.it/common/etc/newacct, è stato effettuato il release di tale volume. Il comando utilizzato è il seguente: vos release id common.etc A questo punto effettuando delle prove sull operazione di login sul Server MetaFrame, ogni utente aveva visibilità e libero accesso alla propia home directory su AFS. 6

7 Creazione dei volumi utenti sul fileserver Kratos.portici.enea.it La sezione seguente descrive la procedura di creazione dei volumi sul fileserver kratos.portici.enea.it.. L assegnazione dei nomi dei volumi deve essere effettuata rispettando la convezione enea. Per esempio per l utente giammatt il nome del volume da creare sarà user.giammatt, quindi si rispetterà la regola per i seguenti utenti: giammatt vespri fattorus onori pafano pasanini peloso regina Il comando utilizzato per creare i volumi è il seguente: vos create kratos.portici.enea.it /vicepa user.giammatt Dopo la creazione dei volumi bisogno effettuare il mount point di tutti i volumi su AFS. Per l utente giammatt e vespri il mount point verrà effettuato nel percorso seguente : cd /afs/.enea.it/portici/info/ Il comando da eseguire per effettuare il mount point del volume R/W è il seguente: fs mkm giammatt user.giammatt Dopo l esecuzione del comando precedente sarà possibile il possibile accedere alla directory giammatt sul volume R/W cioè: cd /afs/.enea.it/portici/info/giammatt Per dare la possibilità di accedere alla directory giammatt anche su un volume readonly si effettua il release del volume della directory che contiene la directory giammatt, quindi di info. Con il comando seguente posso risalire al volume corrispondente alla directory info. fs lq /afs/.enea.it/portici/info/ portici.info (è il volume corrispondente alla directory info) Il comando per effettuare la release del volume readonly è il seguente : vos release id portici.info 7

8 Dopo l esecuzione del comando sarà possibile accedere con i permessi opportuni anche al volume readonly della directory giammatt : cd /afs/enea.it/portici/info/giammatt Con il passo successivo andiamo a crea la copia di backup di ogni volume utente creato. Il comando da eseguire è il seguente : vos backupsys prefix user.giammatt server kratos.portici.enea.it In tal modo viene creato il volume di backup user.giammatt.backup. Il mount point di ogni volume di backup sarà effettuato con il posizionamento del percorso nella home directory del utente in esame e con l esecuzione del comando fs mkm, come segue: cd /afs/enea.it/portici/info/giammatt fs mkm backup user.giammatt.backup Per la creazione dei volumi degli utenti fattorus, onori, pagano, pasanini, peloso, regina è stato necessario creare anche il volume portici.prot, ed effettuare il mount point del volume al cammino seguente : vos create kratos.portici.enea.it /vicepa portici.prot (creazione del volume) cd /afs/.enea.it/portici (posizionamento nel percorso specifico) fs mkm prot portici.prot (creazione del mount point) cd /afs/.enea.it/portici/prot (creazione della directory prot) vos release id portici (aggiornamento delle copie readonly del volume portici ) Una volta effettuato il release del volume portici sarà possibile accedere alla directory prot attraverso il percorso cd /afs/enea.it/portici/prot. Si potrà ora effettuare la creazione dei volumi degli utenti sopra indicati con la stessa procedura utilizzata per l utente giammatt, con la sola differenza che il mount pioint dei corrispettivi volumi dovrà essere eseguito sotto la directory prot. Come ultima operazione bisogna copiare il file.profile di un qualsiasi utente gia definito in AFS nella home directory di ogni utente 8

9 Riavvio Demoni LSF In data odierna è stata eseguito il comando lsload per eseguire attività di monitoraggio sul cluster Portici. All esecuzione di tale comando il sistema IBM Ostro risulta non raggiungibile e veniva marcato con l etichetta unavail. Il significato che si attribuisce a tale etichetta corrisponde al fatto che il demone Lim non è in esecuzione. Per risolvere tale malfunzionamento è stato eseguito lo stop e start dei demoni di LSF in tal modo: afs/enea.it/software/lsf/etc/lsf_daemons stop afs/enea.it/software/lsf/etc/lsf_daemons start (Pirone Vincenzo: 27/01/05) Risoluzione del problema legato alla login di alcuni utenti. In data odierna è stato risolto il problema legato alla login di alcuni utenti in particolare a quella di Umberto Ferrara e Prota Fabio. Effettuando un analisi con il comando: Kas exsamine ferrara Kas exsamine protaf Si è riscontrato che la password di entrambi gli utenti erano in uno stato di lock. Questo perché quando in diversi tentativi si sbaglia ad inserire la password o il nome utente si innesca questo processo di protezione in cui appunto il processo di login viene bloccato (infatti lock in inglese significa serratura). Per ripristinare la situazione di funzionamento bisogna usare il comando seguente per entrambi gli utenti : Kas un ferrara Kas un protaf N.B Dove un sta per unlock. 9

10 Configurazione LAN Campus3: Per la macchina Campus3 su cui si trova installato il S.O. Linux, per cambiare la maschera di sottorete bisogna editare il file seguente che ritrova al path : /etc/sysconfig/network-scripts. Dopo la modifica fare il reboot del sistema oppure lanciare il comando service network restart. NB: Questo procedimento viene applicato anche sulla macchina Kratos. Kleos: Per la macchina kleos su cui si trova installato il S.O. Aix, per cambiare la maschera di sottorete bisogna eseguire i seguenti passi: Aprire un terminale su kleos e lanciare il tool smit Fare doppio click su Comunications Applications and Services Fare click su TCP/IP Fare click su Minimum Configuration & Startup Fare click sull interfaccia en4 e cambiare la maschera di sottorete e fare click su ok NB: Questo procedimento viene applicato anche sul calcolatore Ostro. Con la differenza che l interfaccia da selezionare è en0. 10

11 Problema demone ntpd Se il clock del client non è ben sincronizzato, si potrebbero verificare problemi durante l'autenticazione: # klog -principal brasolin Password: Unable to authenticate to AFS because server and client clocks are badly skewed. # klog -principal brasolin Password: Unable to authenticate to AFS because authentication server was passed a bad ticket. in questi casi occorre eseguire una sincronizzazione del clock del client, utilizzando uno dei due metodi descritti qui sotto: al "volo" usando uno dei server NTP presenti in Sezione (ntpm e ntpi): # ntpdate ntpm.bo.infn.it configurando il demone ntpd per sincronizzare il clock del pc in maniera automatica. Il demone provvederà a mantenere data/orario corretti nel tempo istruzioni ntpd. Cambio indirizzo sul Server Citrix e AFS sulla macchina Kleos Per cambiare l indirizzo sulla macchina kleos, che è sia un server Citrix che AFS sono state effettuate le seguenti operazioni: Per quanto riguarda AFS : Sono stati editati i seguenti file hosts e tok_hosts situati al seguente path: /afs/enea.it/software/lsf/conf> ls cshrc.lsf lsbatch lsf.cluster.sample profile.lsf cshrc.lsf6.0 lsf.cluster.bologna lsf.cluster.trisaia profile.lsf6.0 dev lsf.cluster.brindisi lsf.conf tok_hosts hosts lsf.cluster.casaccia lsf.shared license lsf.cluster.frascati lsf.sudoers lic.path lsf.cluster.portici lsf.task /afs/enea.it/software/lsf/conf> Modificare in questi file il nuovo indirizzo della macchina in esame che in questo caso è kleos N.B. (questo vale per ogni macchina del cluster ostro, kleos, campus3, graphpor): kleos.portici.enea.it sono stati poi lanciati i comandi : lsadmin reconfig badmin reconfig Per quanto riguarda Citrix : Sono state effettuate le seguenti operazion: 1) Riconfigurare l indirizzo del browser citrix con il seguente comando : posizionandosi nel seguente path /usr/lpp/ctxsmf/sbin lanciamo il comando ctxbrcfg -b [set=address unset list] che nel nostro caso è ctxbrcfg b set= Verifica file system sui calcolatori Kleos e Ostro Per evitare anomalie nel funzionamento dei calcolatori Kleos e Ostro (Sistema Operativo AIX) e bene effettuare dei controlli periodici sul file system Es. Comando df su kleos 11

12 Filesystem 512-blocks Free %Used Iused %Iused Mounted on /dev/hd % % / /dev/hd % % /usr /dev/hd9var % % /var /dev/hd % % /tmp /dev/hd % % /home /proc /proc /dev/hd10opt % % /opt /dev/lv % % /usr/vice/cache AFS % 0 0% /afs :CDM_DRIVES Dall esecuzione di tale comando si evince che le varie partizioni in questo caso non hanno problemi di saturazione di spazio. In genere sul calcolatore kleos può accadere che la partizione VAR si riempi per la presenza di file temporanei oppure per la presenza dei file Spacct. Ricordo che questi ultimi vengono generati dal procedura di accounting presente sulla macchina. Infatti nella directory var/adm/ vengono generati dei file particolari denominati come segue : Spacct dove le prime due cifre dopo la virgola stanno ad indicare il mese. La procedura di accounting crea tanti file quanti sono i giorni del mese, i quali però hanno una dimensione che vanno 1,3 Megabyte a 3 Megabyte, quindi se essi si accumulano possono saturare lo spazio che è a disposizione della directory var è causare malfunzionamenti al file system e di conseguenza anche ad AFS/LSF. L azione da eseguire e quella di cancellare questi file. Essi posso essere cancellati un per uno con il comando : rm nome file //facendo pero attenzione di non cancellare i file Del mese corrente ma quelli del mese precedente. Esempio Se oggi e il 6 febbrario 2007 eliminero tutti i file dei mesi Precedenti ma non quelli di febbraio [root@kleos][/var/adm]>rm Spacct il comando è valido questo perché le prime due cifre dopo il punto.01 in dicano il mese di gennaio e non febbraio. [root@kleos][/var/adm]>rm Spacct il comando non è valido perché le prime due cifre dopo il punto.02 in dicano il mese corrente febbraio. Cancellare un grosso numero di file singolarmente può essere molto laborioso quindi è stato creato un piccolo script denominato rmspacct che su kleos si trova al path : [root@kleos][/var/adm]>./rmspacct Se andiamo a visionare come è stato scritto questo script con il comando cat si avrà: [root@kleos][/var/adm]>cat rmspacct 12

13 #!/bin/sh export Data=`date +%m` let Data=$Data-1 Data2=0$Data echo $Data2 echo "Questi sono i file che verranno eliminati..." ls Spacc*.$Data2* rm Spacc*.$Data2* echo "Non ci sono piu Spacct del mese di"$data2 [root@kleos][/var/adm]> Esso in base al comando data risale al mese corrente espresso in due cifre, analizza il nome di ogni file contenuto nella directory adm e cancella tutti i file il cui nome ha nelle due cifre dopo il punto due numeri diversi dal mese corrente. Problema della cache su AFS Può accadere che sulle macchine che contengono un client AFS la directory cache situata al path ES : [root@kleos][/usr/vice]>ls cache etc [root@kleos][/usr/vice]> di AFS possa riempirsi. Come precedentemente illustrato si può monitorare il suo stato con il comando df.nel momento in cui si presenta la situazione in cui la directory risulti piena al 100% allora le azione da eseguire sono le seguenti: 1)Fermare il servizio afs che su kleos per Es. etc/rc.afs/ stop 2)Cancellare la directory cache. E Crearne una nuova. 3)Riavviare il servizio AFS. etc/rc.afs/ start 3)Riavviare i demoni LSF. /afs/enea.it/software/lsf/etc/lsf_daemons start 13

14 Installazione software su AFS Tutto il software presente sulla griglia si trova nel seguente PATH: /afs/enea.it/software. 1) Creazione del volume vos create <machine name> <partition name> <volume name> \ 2) Creazione del mount point 3) Settare le ACL fs lsmount <directory> (/afs/enea.it/software) fs setacl -dir nome-dir -acl nome-utente rli 4) Prima di procedere all installazione del software cambiare il path /usr/local/nome_soft in /afs/enea.it/software/nome_soft 5) Replicazione del site (copie read-only) vos addsite -server <machine name for new site> - partition <partition name for new site> -id <volume name or ID> [- cell <cell name>] 6) Creazione dello script per lanciare il programma (o eventualmente un link) sotto la dir /afs/enea.it/software/bin 7) Rilasciare il volume Cluster Configuration vos release.path 1) Editare il file lsf_shared sotto il seguente path /afs/.enea.it/software/lsf/conf aggiungendo il nome risorsa. 2) Aggiungere la risorsa creata su tutte le macchine su cui intende farla girare nei file lsf.cluster.nome_cluster sotto il seguente path /afs/.enea.it/software/lsf/conf relativi ai cluster. 3) Loggarsi con l account LSF e lanciare in successione i seguenti comandi: lsadmin reconfig badimin reconfig badmin mbdrestart Per controllare che la risorsa è stata aggiunta lanciare il seguente commando lshosts 14

15 COMANDI AFS I comandi di AFS possono essere suddivisi in 3 gruppi: 1) comandi di tipo "file server", sono sempre preceduti da fs, servono per controllare lo stato dei files servers e per controllare e modificare le ACL 2) comandi di tipo "protection server", sono sempre preceduti da pts, servono per creare e modificare i "Protection Group"; 3) comandi vari (per es. tokens, klog, etc). Per avere una lista completa dei comandi di tipo fs e pts e una breve descrizione è sufficiente scrivere a terminale: fs help oppure pts help Per vedere la sintassi, lo scopo, gli alias dei comandi di tipo fs e pts è necessario digitare: Per vedere la sintassi di un comando basta fare: Comandi di tipo File Server fs quota [-path<dir/filepath>] fs q [-p<dir/filepath>] fs help comando oppure pts help comando fs comando -help oppure pts comando -help fornisce la percentuale della quota utilizzata sul volume che contiene una specificata directory o file. fs listquota [-path<dir/filepath>] fs lq [-p<dir/filepath>] fornisce il nome del volume, la sua dimensione massima, il numero di blocchi (ogni blocco è di 1024 bytes) correntemente in uso, la percentuale usata del volume e la percentuale di spazio usato sulla partizione. fs examine [-path<dir/filepath>] fs exa [-p<dir/filepath>] fornisce il nome del volume, la sua dimensione massima, il numero di blocchi in uso, la dimensione massima della partizione e il numero dei blocchi disponibili sulla partizione del disco che contiene il volume. 15

16 fs whereis [-path <dir/filepath>] fs whe [-p <dir/filepath>] fornisce il nome della macchina server su cui è memorizzato un certo file o directory. Volumi che contengono files binari, per esempio editori, sono spesso copiati su più macchine server, in modo che se una di queste non è operativa, i files siano sempre disponibili sulle altre. In questo caso il comando fornisce la lista di tutte le macchine server. Se una macchina server non è operativa, è impossibile accedere ai files memorizzati su di essa e salvare eventuali cambiamenti. fs checkservers [-cell <cellname>][-all] fs checks [-c <cellname>][-all] permette di conoscere lo stato delle macchine server di una cell. Se viene lanciato senza argomenti fornisce informazioni sulla propria cell; se viene specificato il nome di una cell fornisce i dati di quella; se viene fornito il flag -all da informazioni su tutte le cell con cui il "Cache Manager" è in contatto. Poiché la risposta del comando può ritardare di qualche minuto per ogni macchina server che non risponde immediatamente, se si desidera avere subito il terminale libero, è consigliabile eseguire il comando in background aggiungendo in fondo alla riga il carattere &. fs listacl [-path<dir/filepath>] fs la [-p<dir/filepath>] viene usato per vedere la lista ACL relativa ad una o più directory. Esso fornisce la lista dei nomi degli utenti o dei gruppi di utenti e il permesso di accesso associato ad ognuno abbreviato alla singola lettera come abbiamo visto precedentemente. Viene mostrata la lista Normal Rights e, separatamente, se esiste, la lista Negative Rights. Per modificare la lista ACL relativa ad una directory, esiste il comando: fs setacl -dir <directory> -acl <entries> [-clear][-negative] fs sa -d <directory> -a <entries> [-c][-n] Ogni utente può modificare una ACL su cui ha il diritto di amministratore, generalmente ogni utente può farlo per la propria home directory e i suoi sottodirectory. Il flag -clear è da usare con molta cautela perché rimuove tutte le entrate nella ACL specificata prima di aggiungere quelle nuove; il flag -negative serve per modificare la lista Negative Rights. I diritti di accesso specificati nel comando per un utente o un gruppo di utenti non vengono aggiunti a quelli eventualmente già esistenti, bensì li sostituiscono. Per evitare problemi, si consiglia molta prudenza nel modificare l'acl e di farlo solo quando è chiaro quello che si vuole ottenere. 16

17 Comandi di tipo protection Server pts membership -nameorid <user o groupname> pts m -na <user o groupname> fornisce la lista dei gruppi a cui appartiene un utente (specificando user) oppure la lista dei membri di un gruppo specifico (fornendo groupname). pts examine -nameorid <user o groupname> pts e -na <user o groupname> dopo aver confermato l'esistenza dell'utente o del gruppo nel sistema, specifica: 1) l'afs UID dell'utente o del gruppo, cioé un numero, negativo per i gruppi e positivo per gli utenti, usato internamente dal server, 2) il nome dell'utente o del gruppo possessore del gruppo, 3) il nome dell'utente che ha creato il gruppo, 4) il numero dei gruppi a cui l'utente appartiene oppure il numero di utenti che appartengono al gruppo, 5) un flag che indica chi può eseguire certe azioni su questo gruppo, 6) la "group quota" dell'utente, cioé un numero che indica quanti gruppi può ancora creare l'utente specificato.se viene specificato il nome del gruppo questo numero non è significativo ed è sempre 0. pts listowned -nameorid <user o groupname> pts listo -na <user o groupname> fornisce la lista di tutti i gruppi che un utente possiede (specificando user) oppure la lista di tutti i gruppi che appartengono al gruppo specificato. pts creategroup -name <groupname> [-owner <ownergroup>] pts cg -na <groupname> [-o <ownergroup>] serve per creare un nuovo gruppo; l'utente che lancia questo comando viene registrato come il possessore del gruppo, se si desidera che il possessore sia un altro utente è necessario mettere il flag -owner. Poiché un utente può creare soltanto gruppi regolari, il nome del gruppo deve avere il formato: owner-name:group-name; quindi la prima parte del nome del gruppo deve coincidere con quella del possessore del gruppo. Naturalmente un gruppo appena creato non ha membri, per riempirlo esiste il comando: pts adduser -user <username> -group <groupname> pts ad -u <username> -g <groupname> 17

18 che aggiunge un utente nel gruppo specificato. L'effetto di questo comando non è immediato in quanto l'utente, per poter accedere ai diritti del gruppo specificato deve autorizzarsi mediante il comando klog; in caso contrario continua ad avere i diritti acquisiti con il precedente token. pts removeuser -user <username> -group <groupname> pts rem -u <username> -g <groupname> serve per togliere un utente dal gruppo specificato; anche in questo caso l'effetto non è immediato, l'utente perde i vecchi diritti del gruppo solamente dopo aver lanciato il comando klog oppure alla scadenza del token. pts delete -nameorid <user o groupname> pts del -na <user o groupname> serve per eliminare completamente un utente oppure un gruppo. pts chown -name <groupname> -owner <newowner> pts ch -na <groupname> -o <newowner> serve per cambiare il proprietario di un gruppo. Questo comando cambia automaticamente la prima parte del nome del gruppo (quella prima del carattere :) mettendo il nome del nuovo proprietario. pts rename -oldname <oldname> -newname <newname> pts ren -o <oldname> -ne <newname> serve per cambiare il nome di un utente o di un gruppo. 18

19 COMANDI LSF Comandi per il controllo dei Demoni LSF La tabella seguente mostra un lista di comandi che servono per la gestione dei demoni LSF. La tabella seguente mostra una Daemon Action Command Permissions All in cluster Start lsfstartup Must be root or a user listed in lsf.sudoers for all these commands Shut down lsfshutdown sbatchd Start badmin hstartup [host_name... all] mbatchd mbschd Restart Shut down badmin hrestart [host_name... all] badmin hshutdown [host_name... all] Must be root or a user listed in lsf.sudoers for the startup command Must be root or the LSF administrator for other commands. Restart badmin mbdrestart Must be root or the LSF administrator for these commands Shut down badmin hshutdown badmin mbdrestart Reconfigure badmin reconfig RES Start lsadmin resstartup [host_name... all] Shut down Restart lsadmin resshutdown [host_name... all] lsadmin resrestart [host_name... all] LIM Start lsadmin limstartup [host_name... all] bhosts Shut down Restart Restartall in cluster lsadmin limshutdown [host_name... all] lsadmin limrestart [host_name... all] lsadmin reconfig Must be root or a user listed in lsf.sudoers for the startup command Must be the LSF administrator for other commands Must be root or a user listed in lsf.sudoers for the startup command Must be the LSF administrator for other commands 19

20 Mostra lo stato corrente degli host: STATUS ok unavail unreach closed Description Host is available to accept and run new batch jobs. Host is down, or LIM and sbatchd are unreachable. LIM is running but sbatchd is unreachable. Host will not accept new jobs. Use bhosts -l to display the reasons. unlicensed Host does not have a valid license. bhosts -l Quando un host e contrassegnato da un stato di closed vuol dire che non accetta più sottomissioni di job. STATUS Description closed_adm An LSF administrator or root explicitly closed the host using badmin hclose. Running jobs are not affected. closed_busy The value of a load index exceeded a threshold (configured in lsb.hosts, displayed by bhosts -l). Running jobs are not affected. Indices that exceed thresholds are identified with an asterisk (*). closed_excl closed_full closed_lim An exclusive batch job (i.e., bsub -x) is running on the host. The configured maximum number of running jobs has been reached. Running jobs will not be affected. sbatchd is running but LIM is unreachable. closed_lock An LSF administrator or root explicitly locked the host using lsadmin limlock. Running jobs are suspended (SSUSP). closed_wind Host is closed by a dispatch window defined in lsb.hosts. Running jobs are not affected. lsload Mostra lo stato corrente dell host: Status ok -ok busy lockw Description Host is available to accept and run batch jobs and remote tasks. LIM is running but RES is unreachable. Does not affect batch jobs, only used for remote task placement (i.e., lsrun). The value of a load index exceeded a threshold (configured in lsf.cluster.clustername, displayed by lshosts -l). Indices that exceed thresholds are identified with an asterisk (*). Does not affect batch jobs, only used for remote task placement (i.e., lsrun). Host is locked by a run window (configured in lsf.cluster.clustername, displayed by lshosts -l). 20

21 locku unavail Will not accept new batch jobs or remote tasks. An LSF administrator or root explicitly locked the host (i.e., lsadmin limlock) or an exclusive batch job (i.e., bsub -x) is running on the host. Running jobs are not affected. Host is down, or LIM is unreachable. unlicensed The host does not have a valid license. badmin hrestart all Questo comando rimanda in esecuzione il demone sbatchd su tutti gli host del cluster. lsid Mostra la versione LSF, il nome del cluster e quale l attuale master hosts. lsclusters Mostra tutti i cluster, che fanno parte dell organizzazione. lsinfo Mostra tutte le risorse disponibili all interno del cluster (modello, tipo, nome risorsa ). I comandi : lsadmin ckconfig v badmin ckconfig -v Comandi per la riconfigurazione di un cluster dopo aver cambiato i file di configurazione LSF I comandi di riconfigurazione sono i seguenti: lsadmin reconfig badmin reconfig badmin mbdrestart I comandi di riconfigurazione che si utilizzano dipendono da quali file sono stati cambiati. Di seguito c è la tabella con una guida rapida After making changes to... Use... Which... hosts badmin reconfig reloads configuration files lsb.hosts badmin reconfig reloads configuration files lsb.modules badmin reconfig reloads configuration files 21

22 lsb.nqsmaps badmin reconfig reloads configuration files lsb.params badmin reconfig reloads configuration files lsb.queues badmin reconfig reloads configuration files lsb.resources badmin reconfig reloads configuration files lsb.users badmin reconfig reloads configuration files lsf.cluster.cluster_name lsf.conf lsf.shared lsadmin reconfig AND badmin reconfig lsadmin reconfig AND badmin reconfig lsadmin reconfig AND badmin reconfig reconfigures LIM and reloads configuration files reconfigures LIM and reloads configuration files reconfigures LIM and reloads configuration files lsf.sudoers badmin reconfig reloads configuration files lsf.task lsadmin reconfig AND badmin reconfig reconfigures LIM and reloads configuration files File AFS/LSF su piattaforma LINUX, AIX. ::::::campus3.portici.enea.it::::::: (LINUX) Per far ripartire i demoni LSF su campus3.portici.enea.it mettersi nel seguente path: # cd /etc/init.d/lsf (stop, start) Per far ripartire i demoni AFS su campus3.portici.enea.it mettersi nel seguente path: # cd /etc/init.d/afs (stop, start) (in questo file si definiscono le preferenze dei file server in afs) ::::::.kleos.portici.enea.it::::::: (AIX) Per far ripartire i demoni afs e lsf su kleos.portici.enea.it (la stessa procedura vale anche per ostro.portici.enea.it) mettersi nel seguente path: #/etc/rc.afs (stop, start) (in qesto file vengono settate anche le preferenze dei file server e vengono anche riavviati i demoni lsf) #cd /afs/enea.it/software/lsf/etc/lsf_daemons (stop, start) (il path seguente da la possibilità di far ripartire i demoni lsf, su tutte le piattaforme (Linux, Aix)) 22

23 I JOBS BSUB Il comando principale, nella sua espressione più semplice è il seguente: bsub prog_name [1] dove prog_name è un qualunque programma, ovvero può essere: un comando UNIX bsub sleep 20 una propria applicazione bsub fluent input_file questo lancia in batch fluent che prende i dati e le opzioni dal file input_file uno script contenente altri comandi In altre parole l'espressione [1] non fa altro che eseguire il comando, il programma, ecc, sulla macchina remota che LSF sceglie in base al carico attuale e alle risorse disponibile, esattamente come se l'esecuzione fosse fatta sul terminale remoto. Tuttavia esistono svariate possibili opzioni che permettono, ad esempio di richiedere una particolare risorsa (con ciò si intende una macchina con una certa architettura, oppure una quantità di memoria minima, e perfino un'applicazione definita dall'amministratore del sistema). Si veda sotto e gli esempi per maggiori dettagli. Per capire quali opzioni usare con il comando [1], occorre tenere conto di diversi aspetti che influenzano la sottomissione di job: che tipo di risorsa è necessaria quanto tempo (indicativamente) il mio programma ha bisogno per essere eseguito dove LSF scrive gli standard output, essendo che di default è il display, ma non ho a disposizione lo schermo della macchina remota. Quando si sottomette un job, ad esso viene assegnato un ID che lo identifica nella coda dei jobs sottomessi dai vari utenti. La coda (queue) stabilisce il tempo massimo che il jobs sottomesso ha a disposizione e ne stabilisce automaticamente la priorita per l'esecuzione. Per vedere le code disponibili sul sistema, il comando è: bqueues mentre la coda di default: bparams Ad esempio se stimo che il mio programma viene eseguito in 20 ore, devo sottometterlo con una coda large_24h (24 ore), in quanto la coda di default è small_10m(10 minuti), e dopo 10 minuti il mio job verrebbe automaticamente terminato da LSF. 23

24 Le principali opzioni di bsub sono elencate di seguito: Opzione: A cosa serve:...esempio: bsub -q nome_coda specifica la coda bsub -q large_24h My_prog bsub -m hostname forza LSF ad utilizzare l'host hostname per il run bsub -m sp4-1 My_prog bsub -R nome_risorsa richiede la risorsa nome_risorsa per il run bsub -R linux My_prog bsub -o output LSF scrive l'output del job nel file output bsub -o out.dat My_prog Per altre opzioni si veda la Guida LSF. Bjobs Controllo dei jobs sottomessi. Una volta sottomesso un job con il comando bsub, per vedere lo stato dei propri jobs, digitare: bjobs Questo mostra varie informazioni, tra cui il job ID, l'host da cui è stato sottomesso, l'host che lo esegue e lo stato che può essere: PEND (in attesa di esecuzione) RUN (in esecuzione) DONE (eseguito) EXIT (terminato con errore) Altre opzioni: bjobs -a mostra le stesse informazioni di bjobs ma dettagliate. bjobs -u all mostra lo stato dei jobs di tutti gli utenti del cluster. bhist -l job_id mostra dettagli temporali sul dato job, oppure bhist -t -T 09:00,17:00 mostra, ad esempio, la storia dei jobs cronologicamente ("-t") e nell'intervallo ("-T") di tempo dalle 09:00 alle 17:00. 24