Message Passing Interface (MPI) e Parallel Virtual Machine (PVM)

Transcript

1 Università degli Studi di Bologna Dipartimento di Elettronica Informatica e Sistemistica Message Passing Interface (MPI) e Parallel Virtual Machine (PVM) Introduzione Message passing: esplicita comunicazione dei processi dell applicazione attraverso lo scambio di messsaggi P1 P2 P3 P4 P5 Macchina virtuale Definizione standard per il message passing per garantire: Portabilita applicazioni Eterogeneita e interoperabilita Workstations Architettura Parallela MPI e PVM - 2

2 PVM e MPI Parallel Virtual Machine (PVM): sistema affermatosi come standard de facto per il calcolo distribuito in sistemi eterogenei Message Passing Interface (MPI): proposta di standard per lo scambio dei messaggi (progettato da un consorzio internazionale) MPI e PVM - 3 Il message passing Modalita di comunicazione: sincrona/asincrona (coinvolge sia il trasmettitore che il ricevitore) bloccante/non-bloccante (riguarda SOLO il processo che esegue la primitiva) MPI e PVM - 4

3 Comunicazione Sincrona Trasmissione sincrona attesa acknowledgement da processo ricevente MPI e PVM - 5 Comunicazione Asincrona Trasmissione asincrona NON attesa acknowledgement da processo ricevente MPI e PVM - 6

4 Comunicazione Asincrona Proc 0 Proc 1 Proc 0 Proc 1 Sovrapposizione computazione/comunicazione send sincrona receive send asincrona MPI e PVM - 7 Comunicazione bloccante In una comunicazione bloccante il processo attende il completamento della primitiva. primitiva sincrona primitiva asincrona msg arrivato al destinatario msg consegnato al S.O. del nodo trasmittente Completamento primitiva in termini di possibile riutilizzo dei buffer di comunicazione MPI e PVM - 8

5 Comunicazione non-bloccante Il processo NON attende il completamento della primitiva primitive per verificare il termine di una operazione non-bloccante (primitive di tipo test e wait) MPI e PVM - 9 Tipi di Comunicazione Due tipi di primitive di comunicazione: Punto a punto (UN processo mittente manda il messaggio a UN destinatario) Collettive (la comunicazione coinvolge piu processi, es. broadcast e multicast) MPI e PVM - 10

6 Comunicazioni Point-to-Point Semantica: ordine dei messaggi affidabilita fairness MPI e PVM - 11 Comunicazioni Collettive broadcast multicast (1 : tutti) (1 : molti) broadcast con differenti semantiche (es. FIFO) receive multiple MPI e PVM - 12

7 Sincronizzazione In una macchina, processi concorrenti si sincronizzano mediante semafori e monitor In campo distribuito ci sono primitive per la sincronizzazione collettiva: Barriere MPI e PVM - 13 Il problema del deadlock Il deadlock e legato alla presenza di primitive sincrone difficile soluzione nel distribuito MPI e PVM - 14

8 Identificazione Processi Identificazione di un processo all interno di una macchina virtuale (id=host-id+task-id) Gruppi di processi per: sincronizzazione comunicazioni collettive gruppi statici o dinamici sovrapposizioni di gruppi diversi MPI e PVM - 15 Message Passing Interface (MPI) Standard per il message passing proposto da un consorzio internazionale MPI nato per architetture parallele => focus su performance MPI garantisce: portabilita a livello di codice sorgente, ma scarsa eterogeneita e interoperabilita tra diverse piattaforme HW (nessuna delle attuali implementazioni di MPI fornisce interoperabilita ) in versione 1 di MPI nessuna interoperabilita tra diversi linguaggi Prima versione di MPI, MPI-1; versione attuale e la 2, MPI-2. MPI e PVM - 16

9 Cosa fornisce MPI-1 Primitive di comunicazione punto a punto: molte modalita di comunicazione tipi di dati derivati Primitive di comunicazione collettive: molti tipi diversi comunicazioni tra gruppi Gruppi di processi Attenzione: MPI definisce le interfacce alle primitive, non tratta della loro implementazione MPI e PVM - 17 Naming Identificazione di un processo all interno della macchina virtuale Rank: Rank: id id di di un un processo processo nella nella macchina macchina virtuale virtuale Communicator: Communicator: contiene contiene un un insieme insieme di di processi processi I Communicator sono composti di due informazioni: gruppo di processi contesto di esecuzione Processi possono appartenere a diversi Communicator Il Communicator e lo scope delle primitive di comunicazione MPI e PVM - 18

10 Contesti di comunicazione MPI e PVM - 19 Primitive di comunicazione punto-a-punto Primitive di trasmissione bloccanti: sincrona (attesa ack ricezione) MPI_Send (void *buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm) buffered (trasmissione asincrona, senza attesa ack ricezione) standard (puo essere sincrona oppure buffered) ready (richiede una receive gia in attesa) Semantica: ordine dei msg preservato (dallo stesso mittente allo stesso destinatario), nessuna garanzia di fairness MPI e PVM - 20

11 Primitive di comunicazione punto-a-punto Una sola primitiva di ricezione bloccante: MPI_Recv (void *buf, int count, MPI_Datatype datatype, int source, int tag, MPI_Comm comm, MPI_Status *status) MPI e PVM - 21 Primitive di comunicazione punto-a-punto Primitive non-bloccanti: tutte le primitive di comunicazione viste hanno un equivalente non-bloccante, in cui il processo NON attende il completamento della primitiva MPI_ISend (void *buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm, MPI_Request *request) una comunicazione e completata quando e possibile riutilizzare il buffer di comunicazione, utilizzo di: MPI_Wait() ed MPI_Test() MPI_Wait (MPI_Request *request, MPI_Status *status) Semantica: ordine dei msg trasmessi preservato, nessuna garanzia di fairness MPI e PVM - 22

12 Primitive di comunicazione punto-a-punto Multiple completion di primitive non-bloccanti: Si puo verificare lo stato delle comunicazioni pendenti, verificando il completamento di una o piu primitive di comunicazione attesa di una qualunque delle richieste specificate in array_of_request: MPI_Waitany (int count, MPI_Request *array_of_request, int *index, MPI_Status *status) test del completamento di una qualunque delle richieste specificate in array_of_request: MPI_Testany (int count, MPI_Request *array_of_request, int *index, int *flag, MPI_Status *status) Attesa/test dell insieme di primitive: MPI_Waitall() / MPI_Testall () MPI e PVM - 23 Comunicazioni collettive Coinvolgono tutti i processi di un Communicator Non interferiscono con le primitive punto a punto (contesti di comunicazione ortogonali) Non ci sono comunicazioni collettive non-bloccanti (MPI 1.x) Vari tipi di primitive, es. broadcast, scatter-gather, etc. MPI e PVM - 24

13 Comunicazioni collettive MPI e PVM - 25 Operazioni collettive di sincronizzazione (barrier) MPI_Barrier () blocca il processo chiamante finche tutti i membri del gruppo hanno eseguito la stessa primitiva MPI e PVM - 26

14 Eterogeneita Eterogeneita : possibilita di far cooperare (interoperare) parti di un applicazione in esecuzione su architetture diverse. Non e tra i primi obiettivi di MPI, non si occupa delle funzioni di conversione dei dati (es. XDR) MPI e PVM - 27 Messaggi Ogni messaggio e composto di una parte dati e una parte informativa Parte dati: indirizzo del buffer, numero di elementi, tipo degli elementi Parte informativa (busta): rank dei processi mittente e destinatario, message tag, communicator un messaggio viene spedito inserendo i dati in buffer, usando: tipi di dati derivati, oppure istruzioni di impacchettamento/spacchettamento MPI e PVM - 28

15 Topologie virtuali Un meccanismo di naming dei processi che riflette il pattern di comunicazione dell applicazione. MPI fornisce le funzioni per determinare il rank di ogni processo a partire dalla sua posizione nella topologia virtuale. NON determina nessun tipo di allocazione, ma potrebbe fornire suggerimenti al caricatore dell applicazione MPI e PVM - 29 MPI-2 dynamic process creation (MPI_SPAWN) one-sided communication (get e put fatte su una area di memoria detta window, esplicitamente shared) extended collective communication (intercommunicator, in-place, non-blocking) interoperabilita parallel I/O message handler (active messages) NO fault tolerance multi threading (thread safe) MPI e PVM - 30

16 Parallel Virtual Machine (PVM) Sviluppo di Programmi Applicativi Parallel Debugger (XAB) Graphic Developement Tool (HeNCE) }Ambiente di Programmazione Librerie (LPVM) Supporto run-time () } Macchina Astratta PC } Risorse Eterogenee Workstations Architetture Parallele Personal Computer MPI e PVM - 31 PVM Parallel Virtual Machine (PVM): e un pacchetto software per lo sviluppo di programmi paralleli su un insieme di risorse eterogenee (Workstation, Personal Computer e Architetture Parallele) Caratteristiche PVM: standard de facto per il msg passing; basato su macchina virtuale; eterogeneita (interoperabilita HW e SW); gruppi di processi; primitive di comunicazione punto a punto e collettive; fault tolerance; MPI e PVM - 32

17 La macchina virtuale PVM La macchina virtuale di PVM e realizzata da un insieme di processi demone (1 per ogni host): pro migliore gestione eterogeneita maggiore dinamicita (gestione processi e risorse) fault tolerance naming (uso demoni) contro no virtual topology no thread safe MPI e PVM - 33 La macchina virtuale PVM configurazione dinamica della macchina virtuale pvm_addhosts( ) pvm_delhosts(...) fault tolerance, pvm_notify(...) notifica eventi di interesse nell ambito della PVM migliore uso delle risorse MPI e PVM - 34

18 I processi in PVM Identificativo Processi: hostid + TaskId Processi pesanti generazione e distruzione dinamica pvm_spawn( ) pvm_kill( ) Gruppi di processi: gestione dinamica dei gruppi MPI e PVM - 35 PVM message passing La spedizione di un messaggio richiede tre passi: inizializzazione buffer di comunicazione; impacchettamento dei dati del messaggio all interno del buffer (eventuale conversione dei dati con XDR); spedizione del messaggio (punto a punto oppure multicast). MPI e PVM - 36

19 Impacchettamento dei messaggi IMPACCHETTAMENTO E TRASMISSIONE (SEQUENZA = A - B - C) pvm_initsend( ) = involucro del messaggio pvm_pkint( ) pvm_pkstr( ) pvm_pkfloat( ) A B C = tipo INT = tipo STR = tipo FLOAT = dato #1 di tipo INT = dato #2 di tipo STR = dato #3 di tipo FLOAT pvm_send( ) RICEZIONE CORRETTA (SEQ. = A - B - C) = pacchetto con il dato #1 = pacchetto con il dato #2 = pacchetto con il dato #3 RICEZIONE ERRATA (SEQ. = B - C - A) pvm_recv( ) pvm_recv( ) pvm_upkint( ) A pvm_upkstr( ) B pvm_upkstr( ) B pvm_upkfloat( ) C pvm_upkfloat( ) C pvm_upkint( ) A MPI e PVM - 37 Primitive di comunicazione punto a punto La primitiva send e asincrona bloccante int info = pvm_send(int tid, int msgtag) Due primitive di ricezione, una bloccante e una non bloccante int bufid = pvm_recv(int tid, int msgtag) sospende il processo chiamante in attesa dell arrivo del messaggio msgtag (possibili wildcard) int bufid = pvm_nrecv(int tid, int msgtag) versione non bloccante int bufid = pvm_probe(int tid, int msgtag) verifica se il msg msgtag e arrivato MPI e PVM - 38

20 Primitive collettive Primitive collettive di comunicazione int info = pvm_mcast(int *tids, int nastk, int msgtag) e sincronizzazione int info = pvm_barrier(char *group, int count) group: nome del gruppo di processi che si vuole sincronizzare count: numero dei processi del gruppo da aspettare MPI e PVM - 39 Architettura PVM Processo Processo LPVM LPVM Host Demone PVM Processo Processo LPVM LPVM S.O. Sistema Operativo S.O. NETWORK Processo Processo LPVM LPVM Processo Processo LPVM LPVM S.O. S.O. MPI e PVM - 40

21 Interconnessione Demone PVM Socket UDP Socket TCP Traffico TCP (stdout/stderr) Traffico UDP (inter-pvmd) #1 #1 #2 #2 #3 #3 #4 #4 MPI e PVM - 41 PVM oppure MPI? Applicazioni solo su una piattaforma => MPI (migliori prestazioni) Se sono richieste interoperabilita e fault tolerance => PVM PVM: newsgroup: comp.parallel.mpi MPI: newsgroup: comp.parallel.mpi MPI e PVM - 42

22 PVM in Lab2 L ambiente PVM (versione 3.3) si trova nella directory condivisa /export/users/appli/pvm Per poter eseguire programmi in PVM occorre modificare il path e settare alcune variabili di ambiente, modificando opportunamente il file.tcshrc oppure.cshrc Aggiungere al path: /export/users/appli/pvm3 /export/users/appli/pvm3/lib Variabili di ambiente: setenv PVM_ROOT /export/users/appli/pvm3 setenv PVM_ARCH SUN4SOL2 setenv MANPATH /usr/openwin/share/man:/usr/man:$pvm_root/man setenv PVM_DPATH $PVM_ROOT/lib/pvmd Si possono trovare alcuni esempi di programmi in /export/users/appli/pvm3/examples/ che si consiglia di copiare nella propria home per le eventuali modifiche e per la compilazione. MPI e PVM - 43 Compilazione programmi PVM Per la compilazione dei programmi si utilizza un Makefile, chiamato Makefile.aimk che si suggerisce di modificare a seconda delle esigenze e dei file da compilare. portare il file Makefile.aimk all interno della dir dove sono presenti i file sorgenti e modificarlo scrivendovi i nomi dei file da compilare e i nomi dei file eseguibili. dall'interno della directory che contiene i sorgenti e il file Makefile.aimk si esegua il comando aimk <nome del file eseguibile> gli eseguibili sono spostati nella directory./bin/sun4sol2 MPI e PVM - 44

23 Esempio di Makefile.aimk # Esempio di Makefile.aimk per la compilazione di programmi PVM LDIR = -L$(PVM_ROOT)/lib/$(PVM_ARCH) PVMLIB = -lpvm3 SDIR =.. BDIR = $(HOME)/pvm3/bin #BDIR = $(SDIR)/../bin XDIR = $(BDIR)/$(PVM_ARCH) GCC = gcc OPTIONS = -g CFLAGS = $(OPTIONS) -I $(PVM_ROOT)/include $(ARCHCFLAGS) LIBS = $(LDIR)$(PVMLIB)$(ARCHLIB) GLIBS = -lgpvm3 #F77 = f77 FORT = `case "$(FC)@$(F77)" in *@) echo $(FC) echo $(F77) ;; *) echo f77;; esac` FFLAGS = -g $(ARCHFFLAGS) FLIBS = -lfpvm3 LFLAGS = $(LOPT) -L $(PVM_ROOT)/lib/$(PVM_ARCH) CPROGS = <nome dell'eseguibile> all: c-all c-all: $(CPROGS) clean: rm -f *.o $(CPROGS) $(FPROGS) $(XDIR): - mkdir $(BDIR) - mkdir $(XDIR) <nome dell'eseguibile>: $(SDIR)/<nome del sorgente> $(XDIR) $(GCC) $(CFLAGS) -o $@ $(SDIR)/<nome del sorgente> $(LFLAGS) $(LIBS) $(GLIBS) mv $@ $(XDIR) MPI e PVM - 45 Esecuzione programmi PVM Prima di eseguire un programma PVM e necessario far partire l ambiente PVM (comando pvm) cesare lia00 ~/pvm3/bin/sun4sol2 115 > pvm pvm> help Commands are: add - Add hosts to virtual machine delete - Delete hosts from virtual machine halt - Stop pvmds kill - Terminate tasks mstat - Show status of hosts quit - Exit console sig - Send signal to task spawn - Spawn task pvm> quit pvmd still running. cesare lia00 ~/pvm3/bin/sun4sol2 116 > hello i'm t40002 from t40003: hello, world from lia00 cesare lia00 ~/pvm3/bin/sun4sol2 117 > MPI e PVM - 46