Programmazione concorrente in Java. da materiale di Carlo Ghezzi e Alfredo Mo8a

Transcript

1 Programmazione concorrente in Java da materiale di Carlo Ghezzi e Alfredo Mo8a

2 Parallelismo = mul<tasking Possiamo scrivere un programma in cui diverse a?vità (task) evolvono in parallelo da un punto di vista fisico o logico Massimo parallelismo fisico Ogni a?vità parallela ha a disposizione un processore fisico Altrimen< vengono eseguite da processori condivi Secondo modalità decise da uno scheduler, in generale non controllabile dal programmatore

3 Mul<tasking su singolo processore Approccio Processore esegue un task Passa velocemente a un altro So8o il governo dello scheduler Il processore sembra lavorare sui diversi task concorrentemente Passaggio da un task all altro nei momen< di ina?vità o per esaurimento della finestra temporale ( <me sharing )

4 Caso 1: Task singolo Caso 2: Due task 4

5 Mul<tasking a livello di processi Processo Programma eseguibile caricato in memoria Ha un suo spazio di indirizzi (variabili e stru8ure da< in memoria) Ogni processo esegue un diverso programma I processi comunicano via SO, file, rete Può contenere più thread

6 Mul<tasking a livello di thread Thread è un a?vità logica sequenziale Un thread condivide lo spazio di indirizzi con gli altri thread del processo e comunica via variabili condivise Ha un suo contesto di esecuzione (program counter, variabili locali) Si parla spesso di processo light- weight

7 Thread in Java - metodo 1

8 Classe Thread start join isalive sleep(int ms) yield avvia il thread (eseguendo il metodo run) chiamato su un thread specifico e ha lo scopo di me8ere in a8esa il thread a8ualmente in esecuzione fino a quando il thread su cui è stato invocato il metodo join() non termini controlla se il thread è vivo (in esecuzione, in a8esa o bloccato) sospende l esecuzione del thread me8e temporaneamente in pausa il thread corrente e consente ad altri thread in stato Runnable (qualora ve ne siano) di avere una chance per essere esegui<

9 public class A extends Thread { public void run(){ for (int i=0; i<=5; i++) System.out.println("From Thread A: i= "+i); System.out.println("Exit from A"); public class B extends Thread { public void run(){ for (int j=0; j<=5; j++) System.out.println("From Thread B: j= "+j); System.out.println("Exit from B"); public class C extends Thread { public void run(){ for (int k=0; k<=5; k++) System.out.println("From Thread C: k= "+k); System.out.println("Exit from C"); public class ThreadTest { public static void main(string[] args) { new A().start(); new B().start(); new C().start();

10 Output possibili Caso 1 From Thread A: i= 0 From Thread A: i= 1 From Thread A: i= 2 From Thread A: i= 3 From Thread A: i= 4 From Thread A: i= 5 Exit from A From Thread B: j= 0 From Thread B: j= 1 From Thread B: j= 2 From Thread B: j= 3 From Thread B: j= 4 From Thread B: j= 5 Exit from B From Thread C: k= 0 From Thread C: k= 1 From Thread C: k= 2 From Thread C: k= 3 From Thread C: k= 4 From Thread C: k= 5 Exit from C Caso 2 From Thread A: i= 0 From Thread A: i= 1 From Thread A: i= 2 From Thread A: i= 3 From Thread A: i= 4 From Thread A: i= 5 Exit from A From Thread C: k= 0 From Thread C: k= 1 From Thread C: k= 2 From Thread C: k= 3 From Thread C: k= 4 From Thread C: k= 5 From Thread B: j= 0 From Thread B: j= 1 From Thread B: j= 2 From Thread B: j= 3 From Thread B: j= 4 From Thread B: j= 5 Exit from B Exit from C

11 Thread in Java metodo 2 La classe Thread in realtà implementa un interfaccia chiamata Runnable L interfaccia Runnable definisce un solo metodo run che con<ene il codice del thread Su ciò si basa un modo alterna<vo

12 Thread in Java metodo 2 metodo più generale si usa se si deve ereditare da qualche classe

13 Da< condivisi Può essere necessario imporre che certe sequenze di operazioni che accedono a da< condivisi vengano eseguite dai task in mutua esclusione class ContoCorrente { private float saldo; public ContoCorrente(float saldoiniz){ saldo = saldoiniz; public void deposito(float soldi){ saldo += soldi; public void prelievo (float soldi){ saldo -= soldi;...

14 Interferenza Fenomeno causato dall interleaving di operazioni di due o più thread Le8ura di y Esecuzione espressione Scri8ura in x L esecuzione concorrente di x+=y e x- =y può avere uno dei seguen< effe? incrementare x di y lasciare x immutata decrementare x di y

15 Sequenze atomiche Generalizzazione del problema a volte si vuole che certe sequenze di istruzioni vengano eseguite in isolamento, senza interleaving con istruzioni di altre sequenze parallele che altri thread potrebbero eseguire si parla di sequenze atomiche

16 Altro problema di concorrenza A volte, oltre a voler l atomicità di certe sequenze, si vogliono imporre cer< ordinamen< nell esecuzione di operazioni Per esempio, che l operazione A eseguita da un thread venga eseguita prima dell operazione B di un altro thread Di solito ciò deriva dal fa8o di voler garan<re certe proprietà di consistenza della memoria (stato della computazione)

17 Come rendere i metodi "atomici" La parola chiave "synchronized applicata a metodi o blocchi di codice class ContoCorrente { private float saldo; public ContoCorrente(float saldoiniz){ saldo = saldoiniz; public synchronized void deposito(float soldi){ saldo += soldi; public synchronized void prelievo (float soldi){ saldo -= soldi;...

18 Esempio public class SynchronizedCounter { private int c = 0; public synchronized void increment() { c++; public synchronized void decrement() { c--; public synchronized int value() { return c;

19 public class TaskA extends Thread { private SynchronizedCounter counter; public TaskA(SynchronizedCounter c) { counter = c; public void run(){ counter.increment(); System.out.println(counter.value()); public class TaskB extends Thread { private SynchronizedCounter counter; public TaskB(SynchronizedCounter c) { counter = c; public void run(){ counter.decrement(); System.out.println(counter.value());

20 public class ThreadTest { public static void main(string[] args) { SynchronizedCounter c = new SynchronizedCounter(); TaskA ta = new TaskA(c); TaskB tb = new TaskB(c); ta.start(); tb.start();

21 Metodi synchronized Java associa un intrinsic lock a ciascun ogge8o I lock operano a livello di thread Quando il metodo synchronized viene invocato se nessun metodo synchronized è in esecuzione, l'ogge8o viene bloccato (locked) e quindi il metodo viene eseguito se l'ogge8o è bloccato, il task chiamante viene sospeso fino a quando il task bloccante libera il lock

22 Commen< sul lock Diverse invocazioni di metodi synchronized sullo stesso ogge8o non sono sogge8e a interleaving I costru8ori non possono essere synchronized Solo il thread che crea l ogge8o deve avere accesso ad esso mentre viene creato A8enzione a non far uscire un riferimento prematuro all ogge8o Eventuali da< final (che non possono essere modifica< dopo la creazione) possono essere le? con metodi non synchronized

23 Ulteriori commen< sul lock L intrinsic lock viene acquisito automa<camente all invocazione del metodo synchronized e rilasciato al ritorno (sia normale che eccezionale che da uncaught excep<on) Se il metodo synchronized fosse sta<c Il thread acquisisce l intrinsic lock per il Class object associato alla classe Pertanto l accesso ai campi sta<c è controllato da un lock speciale, diverso da quelli associa< alle istanze della classe

24 Synchronized statements Devono specificare l ogge8o a cui applicare il lock public void addname(string name) { synchronized(this) { lastname = name; namecount++; namelist.add(name); Si rilascia il lock all ogge8o prima di invocare un metodo che potrebbe a sua volta richiedere di a8endere il rilascio di un lock

25 Controllo fine della concorrenza Esempio: classe con due campi che non vengono modifica< mai insieme public class TestBlock { private long c1 = 0; private long c2 = 0; private Object lock1 = new Object(); private Object lock2 = new Object(); public void inc1() { synchronized(lock1) {c1++; public void inc2() { synchronized(lock2) {c2++;

26 Alcune regole pra<che Usare lock per la modifica degli a8ribu< dell ogge8o Per essere cer< di avere uno stato consistente Usare lock per l accesso a campi dell ogge8o probabilmente modifica< Per evitare di leggere valori vecchi Non usare lock quando si invoca un metodo su altri ogge? Per evitare deadlock Non c è bisogno di lock per accedere alle par< stateless di un metodo

27 Liveness È una proprietà molto importante in pra<ca Significa che un applicazione concorrente viene eseguita entro acce8abili limi< di tempo Le situazioni da evitare a8raverso un a8enta proge8azione sono deadlock, starva<on e livelock

28 Deadlock Due o più thread sono blocca< per sempre, in a8esa l uno dell altro Esempio: Anna e Giacomo sono amici e credono nel galateo, che dice che se una persona si inchina a un amico, deve restare inchinata fino a che l amico res<tuisce l inchino Problema: inchino reciproco allo stesso tempo

29 public class Friend { private final String name; public Friend(String name) { this.name = name; public String getname() { return this.name; public synchronized void bow(friend bower) { System.out.format("%s: %s" + " has bowed to me!%n", this.name, bower.getname()); bower.bowback(this); public synchronized void bowback(friend bower) { System.out.format("%s: %s" + " has bowed back to me!%n", this.name, bower.getname());

30 public class ThreadTest { public static void main(string[] args) { final Friend anna = new Friend("Anna"); final Friend giacomo = new Friend("Giacomo"); new Thread(new Runnable() { public void run() {anna.bow(giacomo);).start(); new Thread(new Runnable() { public void run() {giacomo.bow(anna);).start();

31 Starva<on Situazione in cui un thread ha difficoltà ad accedere a una risorsa condivisa e quindi ha difficoltà a procedere Esempio: Task greedy che molto frequentemente invocano metodi lunghi ritardano costantemente il thread Uno scheduler che usa priorità cede sempre precedenza ai task greedy

32 Livelock Errore di proge8o che genera una sequenza ciclica di operazioni inu<li ai fini dell effe?vo avanzamento della computazione Esempio: La sequenza infinita di vada prima lei

33 Guarded blocks Come evitare il prelievo se il conto va in rosso? public class ContoCorrente { private float saldo; public synchronized void prelievo (float soldi) { while (saldo-soldi < 0) wait(); saldo -= soldi; rilascia il lock sull'ogge8o e sospende il task

34 Come risvegliare un task in wait? public class ContoCorrente { private float saldo; public ContoCorrente (float saldoi) { saldo = saldoi; synchronized public void deposito (float soldi) { saldo += soldi; notify(); risveglia un task sospeso in wait, se esiste (non determinismo) public synchronized void prelievo (float soldi) { while (saldo-soldi < 0) wait(); saldo -= soldi; Attenzione! if (saldo-soldi<0) wait(); Non è sufficiente

35 Esempio: una coda FIFO condivisa Operazione di inserimento di elemento sospende task se coda piena while (codapiena()) wait(); al termine no<fy(); Operazione di estrazione di elemento sospende task se coda vuota while (codavuota()) wait(); al termine no<fy(); invece notifyall risveglia tutti MA uno solo guadagna il lock

36 public class FIFO { private boolean empty; private String message; public synchronized String take() { // Wait until message is available. while (empty) { try { wait(); catch (InterruptedException e) { // Toggle status. empty = true; // Notify producer that status has changed. notifyall(); return message; public synchronized void put(string message) { // Wait until message has been retrieved. while (!empty) { try { wait(); catch (InterruptedException e) { // Toggle status. empty = false; // Store message. this.message = message; // Notify consumer that status has changed. notifyall();

37 Ciclo di vita di un thread start born no<fy no<fyall wai<ng wait ready scheduler running I/O lock dead fine I/O fine lock blocked

38 Problemi con ogge? mutabili public class SynchronizedRGB { // Values must be between 0 and 255. private int red; private int green; private int blue; private String name; private void check(int red, int green,int blue) public SynchronizedRGB(int red, int green, int blue, String name) public void set(int red, int green,int blue, String name) { check(red, green, blue); synchronized (this) { this.red = red; this.green = green; this.blue = blue; this.name = name; public synchronized int getrgb() public synchronized String getname() public synchronized void invert()

39 Problema SynchronizedRGB color = new SynchronizedRGB(0, 0, 0, "Pitch Black");... int mycolorint = color.getrgb(); //Statement 1 String mycolorname = color.getname(); //Statement 2 Se un altro thread invoca color.set dopo Statement 1 ma prima di Statement 2, il valore di mycolorint non corrisponde al valore di mycolorname Il problema sorge perché l ogge8o è mutabile

40 Come creare ogge? immutabili Non fornire metodi "se8er" Definire tu? gli a8ribu< di istanza final e private Non consen<re alle so8oclassi di fare override dei metodi Dichiarando la classe final oppure dichiarando il costru8ore private e costruendo gli ogge? mediante factory method Se gli a8ribu< di istanza hanno riferimen< a ogge? mutabili, non consen<re la loro modifica Non fornire metodi che modificano ogge? mutabili Non fare sharing di ref a ogge? mutabili Non salvare riferimen< a ogge? esterni mutabili passa< al costru8ore, se necessario fare copie e salvare riferimen< alle copie Inoltre creare copie degli ogge? interni mutabili se necessario per evitare di res<tuire gli originali a8raverso i metodi

41 Esempio ImmutableRGB Ci sono due metodi se8er Il primo (set) trasforma arbitrariamente l ogge8o e non avrà alcun corrispe?vo nella versione immutabile Il secondo, invert, viene ada8ato creando un nuovo ogge8o invece di modificare l ogge8o corrente Tu? gli a8ribu< sono già private; vengono ulteriormente qualifica< final La classe viene qualificata final Un solo a8ributo fa riferimento a un ogge8o, e l ogge8o è immutabile Non è quindi necessario far nulla per salvaguardare lo stato di eventuali ogge? mutabili contenu<

42 Soluzione ImmutableRGB final public class ImmutableRGB { // Values must be between 0 and 255. final private int red; final private int green; final private int blue; final private String name; private void check(int red, int green, int blue) { if (red < 0 red > 255 green < 0 green > 255 blue < 0 blue > 255) { throw new IllegalArgumentException(); public ImmutableRGB(int red, int green, int blue, String name) { check(red, green, blue); this.red = red; this.green = green; this.blue = blue; this.name = name;

43 Conce? avanza< Finora abbiamo visto i conce? di base, che però risultano inadegua< a un effe?va programmazione concorrente Vediamo ora conce? introdo? in java.u<l.concurrent.* Ogge? lock Esecutori Collezioni concorren< Variabili atomiche

44 Ogge? lock - Lock objects Il codice synchronized definisce un caso elementare di lock (implicito), ma meccanismi più sofis<ca< sono forni< dal package java.u<l.concurrent.locks Un lock, definito dall interfaccia Lock, può essere acquisito da un solo thread, come nel caso degli implicit lock associa< a codice synchronized È però possibile ri<rarsi dalla richiesta di lock il metodo trylock esce dal lock se questo non è disponibile (immediatamente o dopo un <meout da specificare) il metodo lockinterrup<bly consente il ri<ro se un altro thread manda un interrupt prima che il lock sia acquisito

45 classe BowLoop import java.util.random; public class BowLoop implements Runnable { private Friend bower; private Friend bowee; public BowLoop(Friend bower, Friend bowee) { this.bower = bower; this.bowee = bowee; public void run() { Random random = new Random(); for (;;) { try { Thread.sleep(random.nextInt(10)); catch (InterruptedException e) { bowee.bow(bower);

46 import java.util.concurrent.locks.lock; import java.util.concurrent.locks.reentrantlock; public class Friend { private final String name; private final Lock lock = new ReentrantLock(); public Friend(String name) { this.name = name; public String getname() { return this.name; public boolean impendingbow(friend bower) { Boolean mylock = false; Boolean yourlock = false; try { mylock = lock.trylock(); yourlock = bower.lock.trylock(); finally { if (! (mylock && yourlock)) { if (mylock) lock.unlock(); if (yourlock) bower.lock.unlock(); return mylock && yourlock;

47 public void bow(friend bower) { if (impendingbow(bower)) { try { System.out.format("%s: %s has + " bowed to me!%n", this.name, bower.getname()); bower.bowback(this); finally { lock.unlock(); bower.lock.unlock(); else { System.out.format("%s: %s started + " to bow to me, but saw that + " I was already bowing to + " him.%n, this.name, bower.getname()); public void bowback(friend bower) { System.out.format("%s: %s has" + " bowed back to me!%n", this.name, bower.getname());

48 public class ThreadTest { public static void main(string[] args) { final Friend giacomo = new Friend("Giacomo"); final Friend anna = new Friend("Anna"); new Thread(new BowLoop(giacomo, anna)).start(); new Thread(new BowLoop(anna, giacomo)).start();

49 Esecutori Gli strumen< finora disponibili impongono una stre8a relazione tra il compito che deve essere eseguito da un thread (definito dall ogge8o Runnable) e il thread stesso, definito dall ogge8o Thread I due conce? possono essere tenu< dis<n< in applicazioni complesse, mediante interfacce Executor thread pools fork/join Gli esecutori sono predefini< e consentono una ges<one efficiente che riduce il pesante overhead dovuto alla ges<one dei thread

50 Interfacce Executors Il package java.u<l.concurrent definisce 3 interfacce Executor ExecutorService (estende Executor) ScheduledExecutorService (estende ExecutorService) U<lizzo di Executor Se r è un Runnable ed e è un Executor, invece di (new Thread(r)).start(); facciamo e.execute(r); evitando l overhead dovuto alla creazione degli ogge? thread

51 Implementazione di Executor Le implementazioni dell interfaccia Executor usano thread pools, ovvero thread che esistono al di fuori di Runnable Un esempio comune è un executor che usa un fixed thread pool, che viene creato chiamando il factory method newfixedthreadpool della classe java.u<l.concurrent.executors I task sono invia< al pool a8raverso una coda

52 Cenno al Fork/Join framework È un implementazione di ExecutorService u<le nel caso di più processori Consente di distribuire task a elemen< di un thread pool secondo questo schema if (il mio task è abbastanza piccolo) eseguo direttamente else spezzo il mio task in due task invoco i due pezzi e attendo il risultato

53 Collezioni concorren< Il package java.u<l.concurrent include estensioni a collezioni di Java, quali BlockingQueue stru8ura da< FIFO che blocca o dà <meout se si cerca di inserire in coda piena o estrarre da coda vuota ConcurrentMap consente in maniera atomica di eliminare/modificare una coppia chiave- valore solo se chiave presente e aggiungere chiave- valore solo se assente

54 Variabili atomiche Il package java.u<l.atomic definisce classi che supportano operazioni atomiche su singole variabili Esse posseggono tu8e metodi get e set che si comportano come le8ura e scri8ura delle corrisponden< variabili non atomiche È disponibile anche un operazione compareandset

55 Ogge? atomici Consentono di evitare i problemi di liveness che possono essere causa< dall uso dei metodi synchronized import java.util.concurrent.atomic.atomicinteger; public class AtomicCounter { private AtomicInteger c = new AtomicInteger(0); public void increment() { c.incrementandget(); public void decrement() { c.decrementandget(); public int value() { return c.get();