Capitolo III. Algoritmi e Programmi

Transcript

1 Capitolo III Algoritmi e Programmi

2 Trattamento delle Informazioni Informatica Studio sistematico dei processi che servono al trattamento delle informazioni Studio della definizione della soluzione di problemi assegnati Studi di questo tipo coinvolgono analisi dettagliata di ciò che serve al trattamento dell informazione progetto di una soluzione applicabile verifica della correttezza e della efficienza della soluzione manutenzione della soluzione nella fase di esercizio

3 Studio di Algoritmi Algoritmo sequenza precisa di operazioni il cui svolgimento è necessario per la soluzione di un problema assegnato L informatica può considerarsi lo studio sistematico degli algoritmi Il calcolatore è l esecutore degli algoritmi Esecutore potente permettere di gestire quantità di informazioni altrimenti non trattabili risolve un gran numero di problemi in modo più veloce e conveniente degli esseri umani L informatica utilizza il computer come uno scienziato utilizza il proprio microscopio uno strumento per provare le teorie sviluppate e, nel caso specifico, verificare i propri ragionamenti o algoritmi

4 La soluzione di problemi: osservazioni La descrizione del problema non fornisce, in generale, indicazioni sul metodo risolvente Anzi, in alcuni casi, presenta imprecisioni e ambiguità che possono portare a soluzioni errate Per alcuni problemi Non esiste una soluzione Non esiste una soluzione eseguibile in tempi utili Esistono più soluzioni Bisogna individuare quella più vantaggiosa sulla base di un insieme di parametri prefissati Costi Tempi di attuazione Risorse necessarie

5 Alcuni esempi Risolvere le equazioni di secondo grado Problema di analisi matematica per il quale si conosce chiaramente il procedimento risolvente Calcolare tutte le cifre decimali di P Non esiste una soluzione eseguibile in tempi ragionevoli! Inviare un invito ad un insieme di amici Più soluzioni possibili (posta elettronica, sms, ) Bisogna quindi scegliere la soluzione più conveniente: ad esempio quella che presenta un costo più basso Individuare le tracce del passaggio di extraterrestri Problema non risolvibile

6 Schema di soluzione

7 Algoritmo ed Esecutore Algoritmo L insieme delle azioni eseguendo le quali è possibile risolvere il problema Se si indica con istruzione la prescrizione di una singola operazione, allora l'algoritmo è un insieme di istruzioni da svolgere secondo un ordine prefissato Esecutore l'uomo o la macchina in grado di risolvere il problema eseguendo l'algoritmo l esecutore deve comprendere le singole istruzioni e deve essere capace di eseguirle Informazioni di ingresso ( input ) informazioni da fornire per il funzionamento dell algoritmo Informazioni di uscita ( output ) risultati prodotti dall'esecutore del dato algoritmo

8 Elaborazioni, funzioni ed algoritmi Elaborazione concetto matematico di funzione (trasformazione dei dati) Y=F(X) -X sono i dati iniziali da elaborare -Y i dati finali o risultati -F è la regola di trasformazione -Spesso è necessaria una sequenza di azioni elaborative per effettuare una elaborazione -Es: divisioni, controlli di parità, ricerca di un valore in una lista, ordinamento di un elenco. -Algoritmo sequenza finita di azioni elaborative ( passi elaborativi ) che risolve un problema

9 Automa a stati finiti Astrazione del concetto di macchina che esegue algoritmi Introduce il concetto di stato particolare condizione di funzionamento in cui può trovarsi la macchina in conseguenza della quale la macchina reagisce con una determinata uscita ad un determinato ingresso La macchina ha sempre uno stato di partenza a partire dal quale si evolve per effetto delle sollecitazioni esterne o input La macchina può terminare in uno stato finale attraversando una serie di stati intermedi Ogni macchina, se soggetta a sollecitazioni in ingresso, risponde in funzione della sua situazione attuale eventualmente emettendo dei segnali di uscita e mutando il suo stato L automa a stati finiti è uno dei modelli fondamentali dell informatica E applicabile a qualsiasi sistema che evolve nel tempo per effetto di sollecitazioni esterne

10 Automa a Stati Finiti: definizione formale Un automa M (a stati finiti) può essere definito da una quintupla di elementi (Q,I,U,t,w) dove: Q è un insieme finito di stati interni caratterizzanti l evoluzione del sistema; I è un insieme finito di sollecitazioni in ingresso; U è un insieme finito di uscite; t è la funzione di transizione che trasforma il prodotto cartesiano Q I in Q (t: QxI Q) w è la funzione di uscita che trasforma Q I in U (w: QxI U).

11 Diagramma degli stati Rappresentazione a grafo di un automa a stati finiti un cerchio per rappresentare gli stati del sistema archi orientati ad indicare le transizioni

12 Diagramma a stati finiti Esempio: diagramma a stati finiti dell ascensore I = PT, 1P, 2P Q = PT, 1P, 2P U = fermo, sale, scende

13 Macchina di Turing (1936) Modello teorico fondamentale basato su quello di automa a stati finiti Usato per approfondire il concetto stesso di algoritmo L algoritmo verrà formalmente definito come tutto ciò che una macchina di Turing può elaborare Raggiungere risultati teorici sulla calcolabilità Cosa si può fare e cosa non si fare con una macchina automatica sulla complessità Cosa si intende per algoritmo più o meno complesso? sull equivalenza degli algoritmi

14 Macchina di Turing Il modello di Macchina di Turing è un particolare automa a stati finiti per il quale sono definiti La natura degli ingressi e degli uscite L insieme dei possibili passi elaborativi In particolare L insieme degli ingressi e delle uscite è un insieme di simboli I passi elaborativi sono definiti nel contesto di un meccanismo ideale capace di effettuare operazioni di lettura e scrittura su di un nastro continuo

15 Macchina di Turing Una macchina di Turing è composta da: Un nastro (memoria) Striscia continua e potenzialmente infinita di caselle atte a contenere simboli Una testina di lettura/scrittura In ogni istante è posizionata su una delle caselle del nastro Il seguente insieme di azioni elaborative: Spostamento della testina di una posizione a destra o sinistra, o mantenimento della testina ferma Scrittura nella casella su cui è posizionata la testina Un dispositivo di controllo Per ciascuna coppia (stato, simbolo letto) Determina il cambiamento di stato Esegue una delle azioni elaborative in accordo

16 Macchina di Turing Una macchina di Turing è completamente individuata dalle seguenti informazioni: Contenuto iniziale del nastro Posizione iniziale della testina Stato iniziale Tabella delle transizioni (stato attuale, simbolo letto, stato seguente, simbolo scritto, direzione di spostamento)

17 Il funzionamento di una MdT Il comportamento della macchina è determinato dall insieme delle regole di transizione Una regola ha la forma seguente: (A, a, B, b, dir) Una regola viene applicata se lo stato corrente della macchina è A e il simbolo letto dalla testina è a L applicazione della regola cambia lo stato in B, scrive sul nastro b ed eventualmente sposta la testina di una cella a sinistra o a destra (dir)

18 Il funzionamento di una MdT La macchina opera come segue: Determina la regola da applicare in base allo stato interno e al simbolo corrente (quello letto dalla testina) Se esiste una tale regola cambia lo stato, scrive il simbolo sulla cella corrente si sposta come indicato dalla regola Se non esiste la regola l esecuzione termina NB: In questo modello non può esistere più di una regola per uno stato ed un simbolo corrente

19 Esempio Una MdT che modifichi una sequenza di A rimpiazzando ogni A in posizione dispari con una B (la prima A ha posizione pari, uguale a 0) Nastro iniziale : ----AAAAAAAAA----. Posizione iniziale della testina: sulla prima A da sinistra Stato iniziale: posizione pari Una tale MdT può essere definita dal seguente insieme di regole: (0, A, 1, A, >) (1, A, 0, B, >) (0, -, END, -, -) (1, -, END, -, -)

20 Definizione Formale è definita dalla quintupla: (A, S, f m, f s, f d ) A è l insieme finito dei simboli di ingresso e uscita; S è l insieme finito degli stati (di cui uno è quello di terminazione); f m è la funzione di macchina definita come A S A; f s è la funzione di stato A S S; f d è la funzione di direzione A S D = {Sinistra, Destra, Nessuna} La macchina è capace di: leggere un simbolo dal nastro; scrivere sul nastro il simbolo specificato dalla funzione di macchina; transitare in un nuovo stato interno specificato dalla funzione di stato; spostarsi sul nastro di una posizione nella direzione indicata dalla funzione di direzione. La macchina si ferma quando raggiunge lo stato di terminazione

21 Macchina di Turing ed Algoritmi Una macchina di Turing che si arresti e che trasformi un nastro t in un nastro t rappresenta l algoritmo per l elaborazione Y = f(x) dove X è rappresentato da t ed Y da t Si dice allora che la MdT calcola Y=f(X) Una funzione è calcolabile secondo Turing se è possibile trovare una macchina di Turing che si arresti e che effettui la trasformazione Y=f(X)

22 Macchina di Turing ed Algoritmi Due questioni fondamentali 1. Data la funzione Y = F(X), esiste sempre una macchina di Turing in grado di calcolarla? No. Esistono funzioni non calcolabili con la MdT (funzioni non calcolabili secondo Turing) Problema dell arresto: non esiste un algoritmo atto a decidere se, data una qualsiasi macchina MdT ed un qualsiasi nastro di ingresso t, la MdT si arresta su t 2. Esiste un formalismo capace di calcolare le funzioni non calcolabili secondo Turing? quindi più potente della MdT?

23 Tesi di Church-Turing Non esiste un formalismo né una macchina concreta che possa calcolare una funzione non calcolabile secondo Turing La tesi non è stata dimostrata, ma nessuno fino ad oggi è in grado di smentirla! Tutte le nuove definizioni, astratte o concrete, di macchina avanzate dal 1936 ad oggi sono equivalenti alla MdT nella capacità di calcolare funzioni Non esiste alcun formalismo che, per modellare una determinata computazione, sia più potente della Macchina di Turing e dei formalismi ad essa equivalenti Esistono problemi che per loro natura non sono risolvibili da alcuna macchina finora costruita o teorizzata

24 Def di Algoritmo con la MdT Con la tesi di Church possiamo identificare il concetto di algoritmo con il modello di Turing: Un algoritmo è ciò che può essere realizzato con una macchina di Turing Pertanto ogni algoritmo può essere codificato in termini di Macchina di Turing

25 Problemi indecidibili Un problema è non risolubile algoritmicamente o indecidibile se nessuna Macchina di Turing è in grado di fornire la soluzione al problema

26 Calcolabilità Dalla tesi di Church-Turing se un problema si può calcolare, allora esisterà una macchina di Turing (o un dispositivo equivalente, come il computer) in grado di risolverlo (cioè di calcolarlo) la classe delle funzioni calcolabili algoritmicamente coincide con quella delle funzioni calcolabili da una macchina di Turing

27 Macchina di Turing Universale E possibile definire una MT, detta Macchina di Turing Universale (MTU), in grado di simulare il comportamento di ogni altra MT Grazie al fatto che le caratteristiche che definiscono ogni MT possono essere rappresentati in modo tale da essere scritte sul nastro di una MT

28 Macchina di Turing Universale La MdT universale è una MdT il cui input è composto dalla concatenazione di due elementi La codifica della MdT da simulare(m) Stato iniziale, posizione iniziale della testina, regole di transizione L input di tale MdT (I) Nastro iniziale Per ogni M e per ogni I, MdT U decodifica la transizione e la applica ad I, ottenendo lo stesso output che darebbe M a partire da I È definito un metodo di codifica e decodifica della tabella di transizione di una MdT

29 MTU vs MT La MTU è in grado di simulare il comportamento di qualsiasi MT....allora essa, in virtù della Tesi di Church, è in grado di calcolare qualsiasi funzione che sia calcolabile algoritmicamente Rispetto alle semplici MT, la MTU è una macchina calcolatrice programmabile Mentre infatti le normali macchine di Turing eseguono un solo programma, che è incorporato nella tavola di transizione, la MTU assume in input il programma che deve eseguire

30 Macchina di Turing Universale: riassumendo Una Macchina di Turing Universale è una MdT che, preso in input il codice di un altra MdT, ne simula il comportamento La MTU è l interprete di un linguaggio leggere dal nastro la descrizione dell algoritmo richiede di saper interpretare il linguaggio con il quale esso è stato descritto

31 Conseguenze L algoritmo è indipendente dal sistema che lo esegue L algoritmo è indipendente dal linguaggio usato per descriverlo visto che per ogni linguaggio si può sempre definire una macchina di Turing universale.

32 MdT e Von Neumann Due modelli fondamentali per caratterizzare la modalità di descrizione e di esecuzione degli algoritmi La macchina di Von Neumann costituisce una rappresentazione concreta di una Macchina di Turing Universale per ciò che attiene alle sue modalità di computazione Se si suppone che il calcolatore di von Neumann è dotato di memoria e tempi di calcolo illimitati, esso è in grado di calcolare tutte le funzioni computabili, in virtù della Tesi di Church (per questo si dice che una macchina di von Neumann è un calcolatore universale)

33 Trattabilità Calcolabilità consente di dimostrare l esistenza di un algoritmo risolvente un problema assegnato ed indipendente da qualsiasi automa Trattabilità studia la eseguibilità di un algoritmo da parte di un sistema informatico Esistono problemi classificati come risolvibili (calcolabili), ma praticamente intrattabili non solo dagli attuali elaboratori ma anche da quelli, sicuramente più potenti, del futuro Sono noti problemi che pur presentando un algoritmo di soluzione, non consentono di produrre risultati in tempi ragionevoli neppure se eseguiti dal calcolatore più veloce ammettono soluzione quindi inaccettabile

34 Trattabilità e Complessità Il concetto di trattabilità è legato a quello di complessità computazionale studia i costi intrinseci alla soluzione dei problemi, con l'obiettivo di comprendere le prestazioni massime raggiungibili da un algoritmo applicato a un problema La complessità consente di individuare i problemi risolvibili che siano trattabili da un elaboratore con costi di risoluzione che crescano in modo ragionevole al crescere della dimensione del problema Tali problemi vengono detti trattabili

35 Spazio e Tempo La complessità di un algoritmo corrisponde a una misura delle risorse di calcolo consumate durante la computazione ed è tanto più elevata quanto maggiori sono le risorse consumate Complessità spaziale. quantità di memoria necessaria alla rappresentazione dei dati necessari all algoritmo per risolvere il problema Complessità temporale. il tempo richiesto per produrre la soluzione Le misure di complessità possono essere: statiche se sono basate sulle caratteristiche strutturali (ad esempio il numero di istruzioni) dell algoritmo e prescindono dai dati di input su cui esso opera dinamiche se tengono conto sia delle caratteristiche strutturali dell algoritmo che dei dati di input su cui esso opera

36 Complessità e dati di input Un primo fattore che incide sul tempo impiegato dall algoritmo è la quantità di dati su cui l algoritmo deve lavorare il tempo di esecuzione è solitamente espresso come una funzione f(n) della dimensione n dei dati di input. Si dirà, ad esempio, che un algoritmo ha un tempo di esecuzione n 2 se il tempo impiegato è pari al quadrato della dimensione dell input. Da sola la dimensione dei dati di input non basta Il tempo di esecuzione dipende anche dalla configurazione dei dati in input oltre che dalla loro dimensione

37 Tempo di Esecuzione e configurazione dei dati in ingresso analisi del caso migliore per calcolare il tempo di esecuzione quando la configurazione dei dati presenta difficoltà minime di trattamento. analisi del caso peggiore. per calcolare il tempo di esecuzione quando la configurazione dei dati presenta difficoltà massime di trattamento. Si tratta di un analisi molto utile, perché fornisce delle garanzie sul tempo massimo che l algoritmo può impiegare analisi del caso medio per calcolare il tempo di esecuzione quando la configurazione presenta difficoltà medie di trattamento

38 Tempo di esecuzione di un algoritmo n = numero dati in ingresso m = numero delle classi di istruzioni coinvolte nell algoritmo (assegnazione, confronto, calcolo) ti = tempo di esecuzione dell istruzione della classe i-esima ki = numero di istruzioni della classe i-esima da eseguire per n ingressi Semplificazioni: Considerare tutte le classi di istruzioni equivalenti con tempo di esecuzione unitario ti = 1 per ogni i il tempo di esecuzione si può esprimere in funzione di n

39 Ordine del tempo di esecuzione t(n), con n intero positivo, ha ordine f(n), detto O(f(n)), se e solo se esistono due costanti positive a ed n tali che: t(n) <= a * f(n), per ogni n>n Interessa la f(n) minima che soddisfi la relazione per avere un indicazione più precisa della delimitazione superiore della complessità Una stima significativa del tempo di esecuzione per n abbastanza grande (>n ) è determinata da f(n) Si dice che t(n) tende asintoticamente a f(n) f(n) viene detta complessità asintotica

40 Complessità Asintotica Interessa sapere come l ordine di grandezza del tempo di esecuzione cresce al limite, ossia per dimensioni dell input sufficientemente grandi quando la funzione t(n) tende ai suoi asintoti Lo studio della condizione asintotica della complessità di un algoritmo permette ulteriormente di trascurare in un algoritmo operazioni non significative concentrando l attenzione solo su quelle predominanti. dati due algoritmi diversi che risolvono lo stesso problema e presentano due diverse complessità t(n) e t (n), se t(n) è asintoticamente inferiore a t (n) allora esiste una dimensione dell input oltre la quale l ordine di grandezza del tempo di esecuzione del primo algoritmo è inferiore all ordine di grandezza del tempo di esecuzione del secondo La complessità asintotica dipende solo dall algoritmo, mentre la complessità esatta dipende da tanti fattori legati alla esecuzione dell algoritmo

41 Ordini di complessità O(logn) O(nlogn) Ordini logaritmici O(n alla k), ordine polinomiale O(k alla n), ordine esponenziale

42 Tipi di Complessità A seconda della funzione f(n) asintotica, si possono individuare: complessità di tipo polinomiale n (lineare) n 2, n 3, n5,. Complessità di tipo esponenziale (o, in generale, Non Polinomiale, NP) 2 n, 3 n,. *.. Per un elaboratore capace di eseguire un milione istruzioni al secondo (1 MIPS).