Automi e Linguaggi Formali Anno accademico 5-6 Docente: Francesca Rossi E-mail: frossi@math.unipd.it Orario: Lunedi 5:3 7:3, LUM 5 Venerdi 3:3 6:3, LUM 5 Cambiamenti di orario non si fara lezione Venerdi 7 Gennaio Ricevimento: Giovedi, 6: - 8:, studio Sito del corso: www.math.unipd.it/ frossi/automi6.html Altre informazioni utili Libro di testo: J. E. Hopcroft, R. Motwani, and J. D. Ullman Automi, linguaggi e calcolabilita, Addison-Wesley, 3. Si trova alla libreria Progetto (Via Marzolo o Via Portello). Prezzo: circa 34,5 euro. Compitini: Due compitini, uno a meta del corso e uno alla fine. Possono sostituire lo scritto. Esame: Scritto e, se richiesto dal docente, collouio orale. Due appelli a fine corso. Due appelli di recupero: uno a Luglio e uno a Settembre. Lucidi in inglese: sul sito http://www.cs.concordia.ca/~grahne/hmu slides/. I lucidi che uso per i capitoli -7 sono basati sui lucidi in inglese di Gösta Grahne. Grazie anche David Ford per l assistenza T E X. 3 Motivazione Automa = dispositivo astratto per fare delle computazioni Turing ha studiato e definito le macchine di Turing (= computer astratti) prima che esistessero veri calcolatori Studieremo anche dispositivi piu semplici delle macchine di Turing (automi a stati finiti, automi a pila,... ), e modi di definire linguaggi, come grammatiche e espressioni regolari. Problemi nella classe NP = che non possono essere risolti efficientemente 4
Automi a stati finiti Gli automi a stati finiti sono usati come modello per Software per la progettazione di circuiti digitali. Analizzatori lessicali di un compilatore. Ricerca di parole chiave in un file o sul web. Esempio: automa a stati finiti per un interruttore on/off off Push Push Esempio: automa a stati finiti che riconosce la stringa then on Software per verificare sistemi a stati finiti, come protocolli di comunicazione. t h e n t th the then 5 6 Rappresentazioni strutturali Ci sono vari modi di specificare una macchina Grammatiche: Una regola come E E + E specifica un spressione aritmetica Coda P ersona.coda dice che una coda e costituita da una persona seguita da una coda. Espressioni regolari: Denotano la struttura dei dati, per esempio: [A-Z][a-z]*[][A-Z][A-Z] e compatibile con (matches) Ithaca NY non e compatibile con Palo Alto CA Concetti di base Alfabeto: Insieme fnito e non vuoto di simboli Esempio: Σ = {, } alfabeto binario Esempio: Σ = {a, b, c,..., z} insieme di tutte le lettere minuscole Esempio: Insieme di tutti i caratteri ASCII Stringa: Seuenza fnita di simboli da un alfabeto Σ, e.g. Stringa vuota: La stringa con zero occorrenze di simboli da Σ Domanda: Quale espressione e compatibile con Palo Alto CA 7 La stringa vuota e denotata con ǫ 8
Lunghezza di una stringa: Numero di posizioni per i simboli nella stringa. w denota la lunghezza della stringa w = 4, ǫ = Potenze di un alpfabeto: Σ k = insieme delle stringhe di lunghezza k con simboli da Σ Example: Σ = {,} Σ = {,} Σ = {,,,} Σ = {ǫ} Domanda: Quante stringhe ci sono in Σ 3 9 L insieme di tutte le stringhe su Σ e denotato da Σ Σ = Σ Σ Σ Anche: Σ + = Σ Σ Σ 3 Σ = Σ + {ǫ} Concatenazione: Se x e y sono stringhe, allora xy e la stringa ottenuta rimpiazzando una copia di y immediatamente dopo una copia di x x = a a... a i, y = b b... b j xy = a a... a i b b... b j Esempio: x =, y =, xy = Nota: Per ogni stringa x xǫ = ǫx = x Linguaggi: Se Σ e un alfabeto, e L Σ allora L e un linguaggio Esempi di linguaggi: L insieme delle parole italiane legali L insieme delle stringhe con un numero uguale di zeri e di uni {ǫ,,,,,,...} L P = insieme dei numeri binari il cui valore e primo L insieme dei programmi C legali L insieme delle stringhe che consistono di n zeri seguiti da n uni {,,,,,...} Il linguaggio vuoto Il linguaggio {ǫ} consiste della stringa vuota {ǫ,,,,...} Nota: = {ǫ} Nota: L alfabeto Σ e sempre finito
Problema: La stringa w e un elemento di un linguaggio L? Esempio: Dato un numero binario, e primo = e un elemento di L P? E L P? Che risorse computazionali sono necessarie per rispondere a uesta domanda? Di solito non pensiamo ai problemi come delle decisioni si/no, ma come ualcosa che trasforma un input in un output. Introduzione informale agli automi Protocollo per commercio elettronico usando soldi elettronici Eventi permessi:. Il cliente puo pagare il negozio (= spedire il file dei soldi al negozio). Il cliente puo cancellare i soldi (come fermare un assegno) 3. Il negozio puo spedire la merce al cliente Esempio: Fare il parsing di un programma C = controllare se il programma e corretto, e se lo e, produrre un albero di parsing. 3 4. Il negozio puo prendere i soldi (= incassare un assegno) 5. La banca puo trasferire i soldi al negozio 4 Commercio elettronico Protocolli completati: Il protocollo per ogni partecipante: pay redeem transfer a b d f ship ship (a) Store c e g redeem transfer ship cancel pay,cancel pay,cancel pay,cancel a b d f pay redeem transfer ship ship (a) Store redeem c e transfer ship g pay,cancel pay,cancel pay,cancel pay, ship cancel pay cancel 3 4 redeem transfer ship. redeem, transfer, pay, cancel cancel pay, ship pay,redeem, cancel, ship 3 4 redeem transfer pay,redeem, cancel, ship (b) Customer (c) Bank (b) Customer (c) Bank 5 6
Dimostrazioni deduttive L intero sistema come automa: a b c d e f g P P P P P P P S S S R C C C C C C C R P S S S P P P P P P R P,C P,C P,C P S R S S 3 C P,C P,C P,C T P R T S S S 4 R C P,C P,C P,C P,C P,C P,C Seuenza di enunciati la cui verita porta da un enunciato iniziale (l ipotesi) ad un enunciato finale (la conclusione) Forma del teorema: Se H, allora C H= ipotesi, C= conclusione Esempio: se x 4, allora x x x parametro uantificato universalmente (vale per tutti gli x) Modus ponens: regola logica che passare da un enuciato al successivo 7 8 Quantificatori Se H e vera, e sappiamo che se H allora C, allora possiamo concludere che anche C e vera Teoremi della forma C se e solo se C : due direzioni di prova Dimostrazione per assurdo: H e non C implica il falso Per ogni x ( x): vale per tutti i valori della variabile Esiste x ( x): vale per almeno un valore della variabile Esempio: un insieme s e infinito se e solo se, per ogni intero n, esiste almeno un sottoinsieme T di S con n elementi Dobbiamo considerare un n arbitrario e poi trovare un insieme con uel numero n di elementi precede 9
Dimostrazioni per induzione Utili uando ci sono cose definite ricorsivamente Esempio: e un intero, e se n e un intero allora n+ e un intero Enunciato simile ma di significato diverso, e scorretto: Esiste un sottoinsieme T dell insieme S tale che, per ogni n, T ha n elementi Induzione sugli interi: dobbiamo dimostrare un enunciato S(n) su un intero n Base: dimostriamo S(i) per un intero particolare ( o di solito) Passo induttivo: per n i, dimostriamo che se vale S(n) allora vale anche S(n+ ) Possiamo concludere che S(n) e vero per ogni n i Esempio Se x 4, allora x x Base: x = 4 x = 4 = 6 e x = 4 = 6 Induzione: Supponiamo che x x per x 4 Se x 4, /x /4 + /x.5 Dobbiamo dimostrare che x+ (x + ) Abbiamo: x+ = x x (dalla base) Dimostriamo adesso che x (x+) Semplificando: x + /x
Induzione strutturale Esempio Molte strutture possono essere definite ricorsivamente Esempio (espressioni): caso base: ualunue numero o lettera e un espressione caso induttivo: se E e F sono espressioni, allora lo sono anche E+F, E F, e (E) Esempi: 3+(4x), (x(5+7))x4 Per dimostrare teoremi su un espressione: si dimostra l enunciato sul caso base, e poi si dimostra l enunciato sulla struttura X a partire dalla validita dell enunciato sulle strutture di cui X e composta secondo la definizione ricorsiva Teorema: ogni espressione ha un numero uguale di parentesi aperte e chiuse Caso base: zero parentesi vero Induzione: Tre modi per costruire un espressione induttivamente: E + F, E F, e (E) Per E + F e E F: se vale per E e F, supponiamo che E abbia n parentesi aperte e chiuse e F ne abbia m E + F ne ha n + m Per (E): se vale per E, supponiamo che E abbia n parentesi aperte e chiuse (E) ne ha n + 3 Automi a stati finiti deterministici Un DFA e una uintupla A = (Q,Σ, δ,, F) Q e un insieme finito di stati Σ e un alfabeto finito (= simboli in input) δ e una funzione di transizione (, a) p Esempio: Un automa A che accetta L = {xy : x, y {,} } L automa A = ({,, }, {,}, δ,, { }) come una tabella di transizione: L automa come un diagramma di transizione: Q e lo stato iniziale F Q e un insieme di stati finali, 4 5
Un automa a stati finiti (FA) accetta una stringa w = a a a n se esiste un cammino nel diagramma di transizione che. Inizia nello stato iniziale. Finisce in uno stato finale (di accettazione) 3. Ha una seuanza di etichette a a a n Esempio: L automa a stati finiti, La funzione di transizione δ puo essere estesa a ˆδ che opera su stati e stringhe (invece che su stati e simboli) Base: ˆδ(, ǫ) = Induzione: ˆδ(, xa) = δ(ˆδ(, x), a) Formalmente, il linguaggio accettato da A e L(A) = {w : ˆδ(, w) F } I linguaggi accettati da automi a stati finiti sono detti linguaggi regolari accetta ad esempio la stringa 6 7 Esempio: DFA che accetta tutte e sole le stringhe con un numero pari di zeri e un numero pari di uni Esercizi 3 DFA per i seguenti linguaggi sull alfabeto {,}: Insieme di tutte le strighe che finiscono con Insieme di tutte le stringhe con tre zeri consecutivi Rappresentazione tabulare dell automa 3 3 3 Insieme delle stringhe con come sottostringa Insieme delle stringhe che cominciano o finiscono (o entrambe le cose) con 8 9
Automi a stati finiti non deterministici (NFA) Un NFA puo essere in vari stati nello stesso momento, oppure, visto in un altro modo, puo scommettere su uale sara il prossimo stato Esempio: un automa che accetta tutte e solo le stringhe che finiscono in., Ecco cosa succede uando l automa elabora l input Formalmente, un NFA e una uintupla A = (Q,Σ, δ,, F) Q e un insieme finito di stati Σ e un alfabeto finito δ e una funzione di transizione da Q Σ all insieme dei sottoinsiemi di Q (stuck) (stuck) Q e lo stato iniziale F Q e un insieme di stati finali 3 3 Funzione di transizione estesa ˆδ. Esempio: L NFA di due pagine fa e Base: ˆδ(, ǫ) = {} ({,, }, {,}, δ,, { }) Induzione: ˆδ(, xa) = p ˆδ(,x) δ(p, a) dove δ e la funzione di transizione {, } { } { } Esempio: Calcoliamo ˆδ(,) sulla lavagna Formalmente, il linguaggio accettato da A e L(A) = {w : ˆδ(, w) F } 3 33
Proviamo formalmente che l NFA, accetta il linguaggio {x : x Σ }. Faremo una induzione mutua sui tre enunciati seguenti. w Σ ˆδ(, w). ˆδ(, w) w = x Base: Se w = allora w = ǫ. Allora l enunciato () segue dalla defnizione Per () e () entrambi i lati sono falsi per ǫ Induzione: Assumiamo che w = xa, dove a {,}, x = n e gli enunciati () () valgono per x. Si mostra che gli enunciati valgono per xa.. ˆδ(, w) w = x 34 35 Euivalenza di DFA e NFA Gli NFA sono di solito piu facili da programmare. Sorprendentemente, per ogni NFA N c e un DFA D, tale che L(D) = L(N), e viceversa. Questo comporta una construzione a sottonsiemi, un esempio importante di come un automa B puo essere costruito da un altro automa A. Dato un NFA I dettagli della costruzione a sottoinsiemi: Q D = {S : S Q N }. Nota: Q D = Q N, anche se la maggior parte degli stati in Q D sono garbage, cioe non raggiungibili dallo stato iniziale. F D = {S Q N : S F N } N = (Q N,Σ, δ N,, F N ) costruiremo un DFA D = (Q D,Σ, δ D, { }, F D ) tali che L(D) = L(N). 36 Per ogni S Q N e a Σ, δ D (S, a) = δ N (p, a) p S 37
Costruiamo δ D dall NFA gia visto: { } {, } { } { } { } { } {, } {, } {, } {, } {, } { } {, } { } {,, } {, } {, } Nota: Gli stati di D corrispondono a sottoinsiemi di stati di N, ma potevamo denotare gli stati di D in un altro modo, per esempio A F. A A A B E B C A D D A A E E F F E B G A D H E F 38 39 Possiamo spesso evitare la crescita esponenziale degli stati costruendo la tabella di transizione per D solo per stati accessibili S come segue: Base: S = { } e accessibile in D Induzione: Se lo stato S e accessibile, lo sono anche gli stati in a Σ δ D (S, a). Esempio: Il sottoinsieme DFA con stati accessibili solamente. Teorema.: Sia D il DFA ottenuto da un NFA N con la costruzione a sottoinsiemi. Allora L(D) = L(N). Prova: Prima mostriamo per induzione su w che ˆδ D ({ }, w) = ˆδ N (, w) { } {, } {, } Base: w = ǫ. L enunciato segue dalla definizione. 4 4
Induzione: ˆδ D ({ }, xa) def = δ D (ˆδ D ({ }, x), a) i.h. = δ D (ˆδ N (, x), a) cst = δ N (p, a) p ˆδ N (,x) def = ˆδ N (, xa) Ora segue che L(D) = L(N). Teorema.: Un linguaggio L e accettato da un DFA se e solo se L e accettato da un NFA. Prova: La parte se e il Teorema.. Per la parte solo se notiamo che un ualsiasi DFA puo essere convertito in un NFA euivalente modificando la δ D in δ N secondo la regola seguente: Se δ D (, a) = p, allora δ N (, a) = {p}. Per induzione su w si puo mostrare che se ˆδ D (, w) = p, allora ˆδ N (, w) = {p}. L enunciato del teorema segue. 4 43 Crescita esponenziale degli stati Esiste un NFA N con n + stati che non ha nessun DFA euivalente con meno di n stati, Caso : a a n b b n,,,, n Allora deve essere sia uno stato di accettazione che uno stato di non accettazione. L(N) = {xc c 3 c n : x {,}, c i {,}} Supponiamo che esista un DFA euivalente con meno di n stati. D deve ricordare gli ultimi n simboli che ha letto. Ci sono n seuenze di bit a a a n, a a a n, b b b n : ˆδ N (, a a a n ), ˆδ N (, b b b n ), a a a n b b b n 44 Caso : a a i a i+ a n b b i b i+ b n Ora ˆδ N (, a a i a i+ a n i ) = ˆδ N (, b b i b i+ b n i ) e ˆδ N (, a a i a i+ a n i ) F D ˆδ N (, b b i b i+ b n i ) / F D 45
FA con transizioni epsilon Un ǫ-nfa che accetta numeri decimali consiste di:. Un segno + o -, opzionale. Una stringa di cifre decimali 3. un punto decimale Esempio: ǫ-nfa che accetta l insieme di parole chiave {ebay, web} 4. un altra stringa di cifre decimali Σ w e b 3 4 Una delle stringhe () e (4) sono opzionali,,...,9,,...,9 e 5 6 7 8 b a y ε,+,- ε 3 5.,,...,9,,...,9 4. 46 47 Un ǫ-nfa e una uintupla (Q,Σ, δ,, F) dove δ e una funzione da Q Σ {ǫ} all insieme dei sottoinsiemi di Q. Esempio: L ǫ-nfa della pagina precedente Epsilon-chiusura Chiudiamo uno stato aggiungendo tutti gli stati raggiungibili da lui tramite una seuenza ǫǫ ǫ E = ({,,..., 5 }, {.,+,,,,...,9} δ,, { 5 }) dove la tabella delle transizioni per δ e ǫ +,-.,...,9 { } { } { } {, 4 } { 3 } 3 { 5 } { 3 } 4 { 3 } 5 Definizione induttiva di ECLOSE() Base: ECLOSE() Induzione: p ECLOSE() and r δ(p, ǫ) r ECLOSE() 48 49
Definizione induttiva di ˆδ per automi ǫ-nfa Esempio di ǫ-closure Base: ε ε ε 3 6 b ˆδ(, ǫ) = ECLOSE() ε 4 5 7 a ε Induzione: Per esempio, ˆδ(, xa) = ECLOSE(p) p δ(ˆδ(,x),a) ECLOSE() = {,,3,4,6} Calcoliamo ˆδ(,5.6) per l NFA della pagina 4 5 5 Dato un ǫ-nfa Esempio: ǫ-nfa E E = (Q E,Σ, δ E,, F E ) costruiremo un DFA D = (Q D,Σ, δ D, D, F D ) tale che L(D) = L(E) Dettagli della costruzione: Q D = {S : S Q E e S = ECLOSE(S)} D = ECLOSE( ),,...,9,,...,9 ε,+,- ε 3 5.,,...,9,,...,9. 4 DFA D corrispondente ad E,,...,9,,...,9 +,- {, } { } {, } { 4,,...,9., 3, 5 } F D = {S : S Q D e S F E }..,,...,9 δ D (S, a) = { } { 3, 5 },,...,9 {ECLOSE(p) : p δ(t, a) per alcuni t S},,...,9 5 53
Teorema.: Un linguaggio L e accettato da un ǫ-nfa E se e solo se L e accettato da un DFA. Prova: Usiamo D costruito come sopra e mostriamo per induzione che ˆδ D (, w) = ˆδ E ( D, w) Base: ˆδ E (, ǫ) = ECLOSE( ) = D = ˆδ( D, ǫ) Induzione: ˆδ E (, xa) = ECLOSE(p) p δ E (ˆδ E (,x),a) = ECLOSE(p) p δ D (ˆδ D ( D,x),a) = p ˆδ D ( D,xa) ECLOSE(p) = ˆδ D ( D, xa) 54 55