Algoritmi e Strutture Dati (Mod. B) Programmazione Dinamica (Parte I)

Transcript

1 Algoritmi e Strutture Dati (Mod. B) Programmazioe Diamica (Parte I)

2 Numeri di Fiboacci Defiizioe ricorsiva (o iduttiva) F() = F() = F() = F() + F() Algoritmo ricorsivo Fib(: itero) if = or = the retur else retur Fib() + Fib()

3 Tempo di esecuzioe dell algoritmo T( ) = O() T ( ) + T( ) se se Tempo di esecuzioe è O( ) F() F() F() F() F() F() F() F() F() F() F() F() F() F() F()

4 Algoritmo II Fib(:itero) f[] = f[] = for i= to f[i] = f[i] + f[i] retur f[] U array f[] di dimesioe. La complessità i tempo è O(). La complessità i spazio è O(). 7 f [] 8

5 Algoritmo II Fib(:itero) f[] = f[] = for i= to f[i] = f[i] + f[i] retur f[] U array f[] di dimesioe. La complessità i tempo è O(). La complessità i spazio è O(). 7 f [] 8

6 Algoritmo II Fib(:itero) f[] = f[] = for i= to f[i] = f[i] + f[i] retur f[] U array f[] di dimesioe. La complessità i tempo è O(). La complessità i spazio è O(). 7 f [] 8

7 Algoritmo II Fib(:itero) f[] = f[] = for i= to f[] = f[] f[] = f[] f[] = f[] + f[] retur f[] U array f[] di dimesioe. La complessità i spazio è O(). La complessità i tempo è O(). 7 f [] 8 f [] 8 f [] 8

8 Programmazioe Diamica Strategia sviluppata itoro agli ao el campo dei problemi di ottimizzazioe Applicazioe ei casi i cui: ci sia più di ua soluzioe al problema alle soluzioi è associabile u idice di botà (ad esempio: costo, prefereza, etc.) si vuole determiare la soluzioe co idice ottimo (la soluzioe ottima del problema, rispetto all idice di botà )

9 Programmazioe Diamica Caratterizzare la struttura di ua soluzioe ottima Defiire ricorsivamete il valore di ua soluzioe ottima La soluzioe ottima ad u problema cotiee le soluzioi ottime ai sottoproblemi Calcolare il valore di ua soluzioe ottima bottomup (cioè calcolado prima le soluzioi ai casi più semplici) Si usa ua tabella per memorizzare le soluzioi dei sottoproblemi Evitare di ripetere il lavoro più volte: o ricalcolare le soluzioi di sottoproblemi già calcolate. Costruire la (ua) soluzioe ottima.

10 Catea di moltiplcazioe tra matrici Problema: Data ua sequeza di matrici compatibili a al prodotto A, A, A,, A, vogliamo calcolare il loro prodotto. La moltiplicazioe di matrici si basa sulla moltiplicazioe scalare come operazioe elemetare. Vogliamo calcolare il prodotto impiegado il umero miore possibile di moltiplicazioi Il prodotto di matrici o è commutativo......ma è associativo [ (A A ) A = A (A A ) ]

11 Moltiplicazioe tra matrici P[ i, j] = c k = A[ i, k ] B[ k, j] = A: 7 B: P: 7 A: r c B: p q (ma deve valere c =p ) A B: r q : richiede r c q (r p q) moltiplicazioi scalari

12 Moltiplicazioe tra matrici ProdMatrici(A[r,c],B[p,q],P[r,q]: matrice) if c p the ERRORE dimesioi o compatibili retur else for i= to r do for j= to q do sum= for k= to c do sum=sum+a[i,k] B[k,j] P[i,j]=sum P[ i, j] = c k = A[ i, k ] B[ k, j] Tempo di esecuzioe = Q(r c q) Q( )

13 Catea di moltiplcazioe tra matrici matrici: A B C Dimesioi:,, (( A B ) C ) Num Moltiplicazioi Memoria (A B ) = ((A B ) C ) = (A ( B C )) (B C ) = (A (B C )) =

14 Catea di moltiplcazioe tra matrici matrici: A B C D Dimesioi:,,, ((( A B ) C ) D ) : 87 moltiplicazioi ( A B ) = (( A B ) C ) = (( A B ) C ) D = 7 87

15 Catea di moltiplcazioe tra matrici matrici: A B C D Dimesioi:,,, ((( A B ) C ) D ) : 87 moltiplicazioi (( A ( B C )) D ) : moltiplicazioi (( A B )( C D )) : moltiplicazioi ( A (( B C ) D )) : moltiplicazioi ( A ( B ( C D ))) : moltiplicazioi

16 Criterio di scelta Determiare il umero di moltiplicazioi scalari ecessari per i prodotti tra le matrici i ogi paretesizzazioe Scegliere la paretesizzazioe che richiede il umero miimo di moltiplicazioi (criterio di ottimalità) Ma quate soo le paretesizzazioi possibili? per = soo per = soo per > quate soo?

17 Defiizioe di paretesizzazioe Defiizioe: U prodotto di matrici A A A A si dice completamete paretesizzato se: cosiste di ua uica matrice ( = ) oppure per qualche k, è il prodotto, delimitato da paretesi, tra i prodotti completamete paretesizzati A A A A k e A k+ A A A A B A B C A B C D C D (A B) ((A B) C ) (((A B ) C ) D)

18 Defiizioe di paretesizzazioe Defiizioe: U prodotto di matrici A A A A si dice completamete paretesizzato se: cosiste di ua uica matrice ( = ) oppure per qualche k, è il prodotto, delimitato da paretesi, tra i prodotti completamete paretesizzati A A A A k e A k+ A A A C D B C D A B C D B A (C D) (B (C D)) (A (B (C D) ) )

19 Defiizioe di paretesizzazioe Defiizioe: U prodotto di matrici A A A A si dice completamete paretesizzato se: cosiste di ua uica matrice ( = ) oppure per qualche k, è il prodotto, delimitato da paretesi, tra i prodotti completamete paretesizzati A A A A k e A k+ A A A C D A B A B C D (C D) (A B) ((A B )(C D))

20 Quati modi ci soo di paretesizzare? A, A, A,, A Sia P() il umero di modi per calcolare il prodotto di matrici. Suppoiamo che l ultima moltiplicazioe sia (A, A,, A k ) (A k+,, A ) k per ogi scelta di k per (A,A,,A k ) ci soo P(k) possibili paretesizzazioi della secoda porzioe (A k+,,a ) e per ogi scelta di k di (A k+,,a ) ci soo P(k) possibili paretesizzazioi della prima porzioe (A,A,, A k ).

21 Quati modi ci soo di paretesizzare? A, A, A,, A Sia P() il umero di modi di calcolare il prodotto di matrici. Suppoiamo che l ultima moltiplicazioe sia (A, A,, A k ) (A k+,, A ) k Duque, fissato u k, ci soo P(k) P(k) modi. P() = k P(k) P(k) P() = P() 9 8

22 Quati modi ci soo di paretesizzare? Duque, fissato u k, ci soo P(k) P(k) modi. P ( ) = k= P( k) P( k) se = altrimeti Questa è ua equazioe di ricorreza P() 9 8

23 Quati modi ci soo di paretesizzare? Duque, fissato u k, ci soo P(k) P(k) modi. = = = altrimeti se ) ( ) ( ) ( k k P k P P Questa è ua equazioe di ricorreza... la cui soluzioe è la sequeza dei umeri catalai ) ( ) ( = C P Ω = + = ) ( C

24 Quati modi ci soo di paretesizzare? = = = altrimeti se ) ( ) ( ) ( k k P k P P Questa è ua equazioe di ricorreza... la cui soluzioe è la sequeza dei umeri catalai ) ( ) ( = C P Ω = + = ) ( C Quidi: eumerare tutte le possibilità, calcolare il umero di moltiplicazioi e scegliere la paretesizzazioe a costo miore o è praticabile (il umero di possibilità è espoeziale)!

25 Soluzioe co programmazioe diamica Caratterizzare la struttura di ua soluzioe ottima Defiire ricorsivamete il valore di ua soluzioe ottima Calcolare il valore di ua soluzioe ottima bottomup (dal basso verso l alto) Cotruzioe di ua soluzioe ottima. Vediamo ora ua ad ua le fasi del processo di sviluppo

26 Notazioe Deoteremo el seguito co: c : umero di righe della matrice A c i : umero di righe della prima matrice A i c i : umero di coloe della matrice A i A : sia ua paretesizzazioe che il risultato del prodotto A A A A l r : sia ua paretesizzazioe che il risultato del prodotto A l A r

27 Caratterizzare della soluzioe ottima Ua soluzioe al problema della paretesizzazioe ottima di matrici divide il problema ei due sottoproblemi: il prodotto delle prime k matrici A k e il prodotto delle rimaeti k matrici A k+ qualche k). (per La soluzioe fiale (A ) è il risultato del prodotto delle due matrici A k e A k+.

28 Caratterizzare della soluzioe ottima La soluzioe fiale (A ) è il risultato del prodotto delle due matrici A k e A k+. Il costo di ua soluzioe (i.e. del prodotto A ) è allora la somma: costo del prodotto A k, più costo del prodotto A k+, più l costo del prodotto fiale tra le due matrici, cioè c c k c. c[a ] = c[a k ] + c[a k+ ] + c c k c

29 Caratterizzare della soluzioe ottima La soluzioe fiale (A ) è il risultato del prodotto delle due matrici A k e A k+. Il costo del prodotto A è la somma del costo del prodotto di A k più il costo di A k+, più il costo del prodotto fiale tra le due matrici risultati, cioè c c k c. Ma come devoo essere fatte le soluzioi ai due sottoproblemi A k e A k+ per garatire che la soluzioe complessiva (A = A k A k+ ) sia ach essa ottima?

30 Caratterizzare della soluzioe ottima Quello che ci serve che valga è che la struttura delle soluzioi ai sottoproblemi sia aaloga a quella del problema complessivo. Cioè che soluzioi ottime ai sottoproblemi permettao di costruire la soluzioe ottima al problema complessivo. Teorema: Se A = A k A k+ è ua paretesizzazioe ottima del prodotto A A A, allora A k e A k+ soo paretesizzazioi ottime dei prodotti A A k e A k+ A, rispettivamete.

31 Caratterizzare della soluzioe ottima Teorema: Se A = A k A k+ è ua paretesizzazioe ottima del prodotto A A A, allora A k e A k+ soo paretesizzazioi ottime dei prodotti A A k e A k+ A, rispettivamete. Dimostrazioe: Suppoiamo che A = A k A k+ sia ua paretesizzazioe ottima del problema A A A ma che almeo uo tra A k e A k+ o sia ua paretesizzazioe ottima del rispettivo sottoproblema. Il costo c[a ] = c[a k ] + c[a k+ ] + c c k c Suppoiamo che esista ua paretesizzazioe migliore A k delle stesse prime k matrici (cioè c[a k ] < c[a k ]). Allora basterebbe sostituire A k al posto A k per otteere ache ua paretesizzazioe migliore per A.

32 Caratterizzare della soluzioe ottima Teorema: Se A = A k A k+ è ua paretesizzazioe ottima del prodotto A A A, allora A k e A k+ soo paretesizzazioi ottime dei prodotti A A k e A k+ A, rispettivamete. Questo teorema forisce la caratterizzazioe della struttura della soluzioe ottima. Ci dice che ogi soluzioe ottima al problema della paretesizzazioe cotiee al suo itero le soluzioi ottime dei due sottoproblemi. L esisteza di sottostrutture ottime ella soluzioe ottima di u problema è ua delle caratteristiche che vao ricercate per decidere se la tecica di Programmazioe Diamica è applicabile.

33 Defiizioe del valore di ua soluzioe ottima Il secodo passo cosiste el defiire ricorsivamete il valore della soluzioe ottima (alla paretesizzazioe) i termii delle soluzioi ottime (alle paretesizzazioi) dei sottoproblemi.

34 Notazioe Sia C(l,r) il umero ottimo di moltiplicazioi ecessario per calcolare il prodotto A l r dove l r Defiiamo C(,) ricorsivamete come segue: Caso Base: C(l,r) = se l = r

35 Defiizioe del valore di ua soluzioe ottima Defiiamo C(,) ricorsivamete coe segue: Caso Base: C(l,r) = se l = r Caso Iduttivo Suppoiamo che l ultima moltiplicazioe sia A l k A k+ l dove l k r allora C(l,r) = C(l,k) + C(k+,r) + c l c k c r

36 Defiizioe del valore di ua soluzioe ottima Caso Base: C(l,r) = se l = r Caso Iduttivo A l k A k+ l dove l k r allora C(l,r) = C(l,k) + C(k+,r) + c l c k c r Ma per risolvere il ostro problema ci iteressa sapere per quale valore di k si ottiee il valore miimo per C(l,r)

37 Defiizioe del valore di ua soluzioe ottima Caso Base: C(l,r) = se l = r Caso Iduttivo A l k A k+ l dove l k r C(l,r) = C(l,k) + C(k+,r) + c l c k c r Ma o coosciamo il valore di k... quidi dobbiamo tetarli tutti! C( l, r) = mi{ C( l, k) + C( k +, r) + c c c } l k r l k< r

38 Calcolo del valore di ua soluzioe ottima Il terzo passo cosiste el calcolare il valore della soluzioe ottima (alla paretesizzazioe) i termii delle soluzioi ottime (alle paretesizzazioi) dei sottoproblemi.

39 Calcolo del valore di ua soluzioe ottima A partire dall equazioe sotto (risultato del passo ), sarebbe facile defiire u algoritmo ricorsivo che calcola il costo miimo C(,) di A C( l, r) = mi{ C( l, k) l k< r + C( k +, r) + c l c k c r } sel sel < r r Vedremo che tale approccio porta ad u algoritmo di costo espoeziale, o migliore della eumerazioe esaustiva.

40 L R L R C(l,r) = se l = r, C(l,r) = mi l k<r { C(l,k) + C(k+,r) + c l c k c r } altrimeti L R C(,) = mi k < { C(,k) + C(k+,) + c c k c } = C(,) + C(,) + c c c

41 L R L R C(l,r) = se l = r, C(l,r) = mi l k<r { C(l,k) + C(k+,r) + c l c k c r } altrimeti L R C(,) = mi k< { C(,k) + C(k+,) + c c k c } = mi { C(,) + C(,) + c c c, C(,) + C(,) + c c c }

42 L R L R C(l,r) = se l = r, C(l,r) = mi l k<r { C(l,k) + C(k+,r) + c l c k c r } altrimeti L R C(,) = mi k< { C(,k) + C(k+,) + c c k c } = mi { C(,) + C(,) + c c c, C(,) + C(,) + c c c, C(,) + C(,) + c c c }

43 L R L R C(l,r) = se l = r, C(l,r) = mi l k<r { C(l,k) + C(k+,r) + c l c k c r } altrimeti L R C(,) = mi k< { C(,k) + C(k+,) + c c k c } = mi { C(,) + C(,) + c c c, C(,) + C(,) + c c c, C(,) + C(,) + c c c, C(,) + C(,) + c c c }

44 L R L R C(l,r) = se l = r, C(l,r) = mi l k<r { C(l,k) + C(k+,r) + c l c k c r } altrimeti L R C(,) = mi k< { C(,k) + C(k+,) + c c k c } = mi { C(,) + C(,) + c c c, C(,) + C(,) + c c c, C(,) + C(,) + c c c, C(,) + C(,) + c c c, C(,) + C(,) + c c c }