Prof. Pagani Corrado ALGORITMI E COMPLESSITÀ COMPUTAZIONALE

Transcript

1 Prof. Pagani Corrado ALGORITMI E COMPLESSITÀ COMPUTAZIONALE

2 COMPLESSITÀ DEGLI ALGORITMI L oggetto della teoria della complessità è stabilire se un problema sia facile o difficile In base a quali parametri è possibile stabilire la difficoltà di un problema? Deve essere una caratteristica generale non associata a particolari istanze di dati del problema stesso Non ci interessa valutare quanto è stato difficile per l analista programmatore individuare l algoritmo di risoluzione Dipenderà dal numero di istruzioni elementari che impiega l algoritmo per risolvere una istanza di dati certi problemi risultano difficili in quanto un l algoritmo determina la soluzione richiesta in tempi troppo lunghi Non deve dipendere dal calcolatore utilizzato pertanto la complessità dovrà essere indicata in istruzioni elementari e non secondi o millisecondi

3 COMPLESSITA COMPUTAZIONALE Dalle premesse della slide precedente possiamo definire La complessità computazionale di un algoritmo è la quantità di tempo (espressa in passi elementari) necessaria per produrre il risultato finale La complessità si esprime sotto forma di una funzione matematica che mette in relazione il tempo di esecuzione di un algoritmo con la dimensione dei dati di input (solitamente indicata con n) Tipicamente si considera il caso peggiore per un algoritmo è il caso in cui questo, per generare il risultato, impiega più tempo ossia entra in tutti i blocchi opzionali (IF, ) più lunghi di codice

4 FUNZIONE DI COMPLESSITÀ NEL TEMPO f(n),dove n è la dimensione di un istanza E quindi la funzione che restituisce il massimo numero di operazioni elementari necessarie ad un algoritmo per risolvere le istanze di dimensione n di un problema. Tipicamente andrebbero considerate Addizioni Moltiplicazioni Confronti scrittura/lettura registri

5 APPROSSIMAZIONE L approssimazione di una funzione con una funzione asintotica (valida per n ) è molto utile per semplificare i calcoli A noi interessa infatti il comportamento dell algoritmo per istanze molto grandi di dati, ossia quando l elaborazione diventa più lunga La notazione asintotica di una funzione descrive il comportamento in modo semplificato, ignorando dettagli della formula Esempio: per valori sufficientemente alti di x il comportamento della funzione f(x) = x2 + 7x + 4 è approssimabile con la funzione f(x) = x2

6 ESEMPIO DI DETRMINAZIONE DI F(N) Determinazione del massimo e media di un array int max = arraynumeri[0]; Int media = arraynumeri[0]; for(int i=1; i<=arraynumeri.length-1; i++) { if( arraynumeri[i]>max ) max=arraynumeri[i]; media = media + arraynumeri[i]; } Media = media / arraynumeri.length; Caso peggiore F(n) = 4 + 5*n Caso migliore F(n) = 4 + 4*n Caso medio F(n) = *n 3 istruzioni fuori dal ciclo (inizializzazione max, media e calcolo media finale) 1 istruzioni di inizializzazione ciclo int i=1 4 istruzioni sempre eseguite per ogni ciclo 2 istruzioni all interno della dichiarazione del cilo for (controllo + incremento sulla variabile i) If interno Aggiornamento della media 1 istruzioni facoltativa per ogni ciclo max=arraynumeri[i]

7 ALCUNI TIPI DI COMPLESSITA Costante O(k) non dipende dai dati Lineare O(n) logaritmica O(log(n)) Quadratica O(n2) Cubica O(n3) NON POLINOMIALI!!!! esponenziale O(kn) fattoriale O(n!)

8 TEMPI DI RISOLUZIONE IN BASE ALLA COMPLESSITA Esempi di complessità di algoritmi e tempi di risoluzione su una macchina tipo che esegue 100 milioni di operazioni al secondo

9 TEMPI DI RISOLUZIONE (GRAFICO) NON POLINOMIALI!!!! I tempi di esecuzione crescono esponenzialmente (o peggio)

10 PROBLEMI FACILI Un problema è facile (o ben risolto) se esiste almeno un algoritmo di tipo polinomiale che lo possa risolvere Ossia se tale algoritmo ha una funzione di complessità nel tempo che è approssimabile da O(np) per un certo p fissato.

11 PROBLEMI DIFFICILI Tutti quei problemi per cui non esiste nessun algoritmo di tipo polinomiale che lo possa risolvere Tutti gli algoritmi che lo risolvono sono di complessità esponenziale o superiore Si consideri che quasi tutti i problemi di ottimizzazione discreta sono risolvibili impostando un albero decisionale che elenchi tutte le soluzioni possibili complessità O(n!)

12 ESEMPI DI PROBLEMI FACILI Problemi di ricerca Comprensivi di problemi di individuazione di massimo e minimi Problemi di indivduazione di cammini minimi Sistemi equazioni lineari Determinare il minimo albero ricoprente in un grafo:

13 ESEMPI DI PROBLEMI DIFFICILI Problema delle somme parziali Dato un insieme di interi, c è almeno un suo sottoinsieme che ha come somma algebrica 0? Problema della Torre di Hanoi Il gioco inizia con tutti i dischi incolonnati su un paletto in ordine decrescente, in modo da formare un cono. Lo scopo del gioco è portare tutti i dischi su un paletto diverso, potendo spostare solo un disco alla volta e potendo mettere un disco solo su un altro disco più grande, mai su uno più piccolo.

14 PROBLEMI DIFFICLI SUI GRAFI Problema del commesso viaggiatore Problema di Vehicle Routing

15 TIPOLOGIE DI PROBLEMI Problemi di decisione Risposta SI/NO Problemi di ricerca Trovare una soluzione (una prova della risposta SI ) Problemi di enumerazione Trovare tutte le soluzioni Problemi di ottimizzazione Trovare una soluzione (una prova della risposta SI ) ottima rispetto ad una funzione obiettivo

16 TIPOLOGIE DI ALGORITMI Algoritmi esatti Determinano la soluzione cercata in maniera ottima Se il problema è di ottimizzazione trovano il valore massimo della funzione di ottimizzazione Algoritmi approssimati Tipicamente utilizzati per algoritmi di ottimizzazione Determinano una soluzione ammissibile, ma non necessariamente ottima Vantaggi Tipicamente si avvicinano molto alla soluzione ottima, che potrebbero anche individuare (ma non ne garantiscono il raggiungimento) Lavorano in tempi ridotti tipicamente polinomiali

17 APPROCCIO RISOLUTIVO Se il problema in questione è facile posso provare a ridurne la complessità, ma i vantaggi saranno comunque limitati Se il problema è difficile abbiamo 2 approcci Trovare il primo algoritmo polinomiale che risolve il problema il problema passerà da difficile a facile Trovare un algoritmo approssimato che funzioni sempre meglio (buon compromesso tra tempi di esecuzione e qualità della soluzione ottenuta)

18 CASI PARTICOLARI ED ECCEZIONI A volte algoritmi esponenziali sono mediamente più veloci di algoritmi polinomiali! Nel caso peggiore un algoritmo esponenziale (per istanze di dati tendenti all infinito) sono sempre più lenti Algoritmo del simplesso Certi algoritmi approssimati trovano quasi sempre la soluzione ottima ma non garantiscono che lo sia sempre