Progetto Lauree Scientifiche Matematica TEORIA DEI CODICI I REGOLE DEL GIOCO. Pensate un numero da 0 a 15 compresi

Transcript

1 Progetto Lauree Scientifiche Matematica TEORIA DEI CODICI I REGOLE DEL GIOCO Pensate un numero da 0 a 15 compresi io vi farò sette domande su questo numero Potete rispondere sempre correttamente oppure mentire una sola volta indovinerò comunque il numero 1

2 PENSATO? Ecco le domande E maggiore di 7? E uno fra 4, 5, 6, 7, 12, 13, 14, 15? E uno fra 2, 3, 6, 7, 10, 11, 14, 15? E dispari? E uno fra 2, 3, 4, 5, 8, 9, 14, 15? E uno fra 1, 2, 4, 7, 9, 10, 12, 15? E uno fra 1, 3, 4, 6, 8, 10, 13, 15? A questo punto potreste chiedervi Come ho fatto ad indovinare, nonostante la menzogna? Come ho fatto ad indovinare, così rapidamente? 2

3 QUANTE DOMANDE SERVONO Se non mentite, quante domande servono per indovinare il numero? Le mie domande ammettono solo risposta si oppure no. Domande del tipo È per caso il numero 1? sono scommesse rischiose. Se le risposte sono no, sono nei guai... Si può fare di meglio... Con la prima domanda E maggiore di 7? sto dividendo a metà i casi possibili: - se la risposta è si, rimangono gli otto numeri da 8 a 15; - se la risposta è no, rimangono gli otto numeri da 0 a 7; 3

4 La quarta domanda E dispari? divide a metà entrambi i gruppi precedenti Così fanno anche la seconda e la terza domanda Cosa c è sotto? Stiamo usando la rappresentazione binaria dei numeri, ovvero rispetto alla base 2. RAPPRESENTAZIONE DECIMALE Nella usuale rappresentazione decimale, usiamo una singola cifra per i numeri fra 0 e 10, quest ultimo escluso. Dopodiché scriviamo i numeri in termini di potenze di 10: 52 = =

5 RAPPRESENTAZIONE BINARIA Nella rappresentazione binaria, usiamo una singola cifra per i numeri compresi tra 0 e 2 (escluso). Ossia usiamo solo le cifre 0 ed 1 Dopodiché scriviamo i numeri in termini di potenze di 2: 1 0 = = = = 10 Se uso solo 4 cifre quanti numeri riesco a rappresentare nella forma a a a a 0 2 0? 0000 = = = = = = = = = = 15 Con 4 cifre riesco a rappresentare tutti i numeri compresi tra 0 e 15 5

6 In informatica Le cifre binarie 0 ed 1 sono dette bit bynary digit un bit rappresenta l'unità di misura della quantità d'informazione Le prime quattro domande del gioco, chiedono in realtà i quattro bit del numero in questione È maggiore di 7? chiede il primo bit

7 È uno fra 4, 5, 6, 7, 12, 13, 14, 15? chiede il secondo bit È uno fra 2, 3, 6, 7, 10, 11, 14, 15? chiede il terzo bit

8 È dispari? chiede il quarto bit Abbiamo pensato 13, rispondiamo senza mentire alle prime 4 domande E maggiore di 7? Si E uno fra 4, 5, 6, 7, 12, 13, 14, 15? E uno fra 2, 3, 6, 7, 10, 11, 14, 15? Si No E dispari? Si = = 13 8

9 Dunque dalle prime quattro domande (se le risposte sono corrette) posso ricavare il numero pensato, in forma binaria, scrivendo 1 per ogni si, e 0 per ogni no. LE ALTRE DOMANDE Servono a individuare la menzogna, ovvero l errore. Come e perché ciò accade lo vedremo più avanti parlando di 9

10 TEORIA DEI CODICI Affermare che nella vita di ognuno di noi COMUNICARE è un fatto di fondamentale importanza non è un esagerazione. Come potremmo immaginare la nostra vita relazionale o professionale, il nostro rapporto con il mondo che ci circonda se non avessimo questa possibilità? 10

11 Pensiamo, d altra parte, all importanza che la comunicazione ha assunto nella nostra società, o a come essa abbia da sempre condizionato lo sviluppo tecnologico. Ci accorgeremmo, allora, di quanto sia per noi consueto essere coinvolti in un qualsiasi processo di comunicazione senza nemmeno rendercene conto. il problema fondamentale della comunicazione consiste nel riprodurre in un punto, esattamente (o con buona approssimazione) un messaggio preparato in un altro punto. Claude E. Shannon ( ) C. E. Shannon A mathematical theory of communication Bell System Tech. J. 27, ,

12 Ma come avviene una COMUNICAZIONE? Sorgente Ricevente Codificatore Canale Decodificatore Sistema di Comunicazione 12

13 L obiettivo di un Sistema di Comunicazione è quello di permettere il trasferimento di un informazione da un punto ad un altro separato nello spazio e nel tempo. Il rischio è che il messaggio che deve essere trasmesso venga ad alterarsi. L alterazione del messaggio può essere causata da: Ragioni intrinseche al meccanismo utilizzato (deperimento del mezzo, interferenze dovute a fenomeni naturali) Difetto dell apparato utilizzato. Nel nostro linguaggio verbale vi è in modo naturale una certa resistenza ai piccoli errori, in quanto tendiamo a codificare i messaggi in modo ridondante. 13

14 Vieni al cinema oggi pomeriggio? So No Si S io, volentieri 1 0 Il problema nasce nel momento in cui il valore del bit viene ad essere invertito a causa di un errore di trasmissione: il significato di quanto ricevuto viene ad essere esattamente l opposto di quello inviato e non c è modo di accorgersi dell errore commesso. 14

15 La Teoria dei Codici si propone di fornire dei metodi per evitare che questo genere di eventualità possa verificarsi. Vediamo un esempio: Supponiamo che Alice voglia trasmettere a Bob indicazioni su di un percorso stradale da seguire e che ad ogni svincolo sia possibile muoversi esattamente in quattro direzioni: Nord, Sud, Est, Ovest. Si tratta di CODIFICARE 4 informazioni diverse che si possono mettere in corrispondenza con i numeri: N O E S Possiamo utilizzare la rappresentazione binaria dei numeri da 0 a 3 a a Per cui ad esempio E

16 N 00 O E 10 Codificato con 01 S 11 Osserviamo che: due direzioni contigue ( ad esempio N-E ) sono rappresentate da segnali che differiscono di una sola posizione. direzioni opposte ( N-S, E-O ) differiscono in due posizioni. Sorgente Ricevente Nord Est 00 Codificatore 01 Canale Decodificatore N O E S

17 Un modo per ovviare a questo inconveniente è quello di trasmettere più volte ( almeno 3 ) il medesimo messaggio e, per ogni posizione, far selezionare la direzione che è stata ricevuta più volte. Ad esempio è decodificato nella direzione E = 01 Ovviamente stiamo supponendo che il sistema funzioni bene e che quindi durante la trasmissione si verifichi al più un errore. Una soluzione diversa ( e più efficace ) è quella di usare una codifica detta Codifica con Ridondanza 17

18 N Codifica con Ridondanza O E Codificato con S Osserviamo che ogni due direzioni differiscono in almeno tre posizioni. Sorgente Ricevente Nord Nord Codificatore Canale Decodificatore N O E S

19 ORIGINI TEORIA DEI CODICI CORRETTORI 1947 Richard W. Hamming ( ) Richard W. Hamming Matematico puro Bell Telephone macchine a relè La teoria dei codici si basa sull idea di distanza di Hamming vediamo in che senso: 19

20 A={a 1, a 2,, a m } ALFABETO A 1 ={a,b,c,d,e, u,v,z} A 2 ={0,1} n un intero positivo A n l insieme di tutte le possibili n-ple di elementi di A, cioè A n ={(a 1, a 2,, a n ) / a i A} A 14 ={abel, casa, fder, topo, rana, deou } A 24 ={0000, 0101, 1110, 1010, 1111 } ogni elemento di A n è detto parola di lunghezza n Si definisce Codice un sottoinsieme C di A n gli elementi di C sono detti parole del Codice 20

21 N Codifica con Ridondanza O E S A C

22 cassa fvder A 5 1 sdved ghitl marmo scala cavdo gfgtl miltf soldi gfeeo loeie hgefrs mamma drfef porta ouhfr nhgtg fdser bgftf a = (a 1, a 2,, a n ) b = (b 1, b 2,, b n ) di A n distanza di Hamming tra a e b d(a,b) = l{i / a i b i }l a = ( ) b = ( ) d(a,b) = 3 22

23 La distanza di Hamming soddisfa le seguenti tre condizioni: 1. d(a,b) = 0 se, e solo se, a = b 2. d(a,b) = d(b,a) per ogni a,b A n 3. d(a,b) d(a,c) + d(c,b) per ogni a,b,c A n In che modo il concetto di distanza così introdotto può essere utilizzato per decodificare un messaggio ricevuto? 23

24 Quante sono le parole binarie di lunghezza 7? , , , Ci sono 2 7 = 128 parole binarie di lunghezza 7 Se vogliamo avere la possibilità di rivelare e correggere errori, dobbiamo selezionare un sottoinsieme piccolo di tutte queste parole, sia esso il Codice C. L idea di Hamming era la seguente a d(a,b) 3 b C e d(c,b) 3 d c 24

25 Codificatore a b Decodificatore Decodifica di Massima Probabilità C b 1 a d c c = d(c,a)=2 a = d(c,b)=1 b = d(b,a)=1 d(c,a) d(c,b) + d(b,a) = 2 25

26 a =(a 0, a 1, a 2, a 3, a 4, a 5, a 6 ) posizioni di informazione posizioni di ridodanza Quante sono le parole del codice così costruito da Hamming? a = a a a a a 0 = = 0 a 1 = = 1 a 2 = = 2 a 3 = = 3... a 15 = = 15 26

27 (7,4)-codice di Hamming Possiamo arrivare alle medesime conclusioni partendo da un altro punto di vista, quello dell impacchettamento di sfere 27

28 Impacchettamento di sfere r S r (a) a S r (a) = {b d(a,b) r} a =

29 Un codice C è in grado di correggere r errori se le sfere di centro una parola del codice e raggio r sono a due a due disgiunte. Codificatore a b Decodificatore 29

30 a a b S r (a) c S r (c) Torniamo al gioco Avete pensato un numero da 0 a 15 compresi io vi ho fatto sette domande su questo numero E, ammettendo al più una menzogna, ho indovinato il numero da voi pensato utilizzando (7,4) codice di Hamming 30

31 LE ULTIME 3 DOMANDE mi sono servite ad individuare la menzogna, ovvero l errore. Ai dati da trasmettere (in questo caso, le quattro domande originali, che già da sole determinerebbero il numero) sono stati aggiunti dati che sarebbero ridondanti ma che mi hanno permesso di rivelare e correggere l eventuale errore. IL CODICE DI HAMMING corregge un errore su 7 bit. Dopo le prime 4 domande, se non ci fosse stata alcuna menzogna, sarei già stata in grado di indovinare il numero pensato, ma se invece un errore è stato commesso? 31

32 Un errore (una menzogna) Il codice di hamming corregge un errore (scova una menzogna) Vediamo un esempio semplice: Mario ha pensato il numero 15 e decide di mentire alla quarta domanda. E maggiore di 7? SI E uno fra 4, 5, 6, 7, 12, 13, 14, 15? SI E uno fra 2, 3, 6, 7, 10, 11, 14, 15? SI E dispari? NO E uno fra 2, 3, 4, 5, 8, 9, 14, 15? SI E uno fra 1, 2, 4, 7, 9, 10, 12, 15? SI E uno fra 1, 3, 4, 6, 8, 10, 13, 15? SI 32

33 La sequenza è quindi Ma le sequenze legali sono: Cosa hanno di particolare? Ossia: - sequenze tipo con tre 0 e quattro 1, - sequenze tipo con tre 1 e quattro 0, e Dunque nella sequenza è lo 0 che è sbagliato e la sequenza giusta è

34 Riproviamoci E maggiore di 7? SI E uno fra 4, 5, 6, 7, 12, 13, 14, 15? SI E uno fra 2, 3, 6, 7, 10, 11, 14, 15? NO E dispari? SI E uno fra 2, 3, 4, 5, 8, 9, 14, 15? SI E uno fra 1, 2, 4, 7, 9, 10, 12, 15? SI E uno fra 1, 3, 4, 6, 8, 10, 13, 15? NO La sequenza è quindi Ma le sequenze legali sono:

35 Scorrendole una per una vediamo che quella che più assomiglia a è Concludiamo allora che è stata detta una menzogna alla seconda domanda Quindi la sequenza corretta è Ed il numero pensato è 1001 cioè = = 9 35

36 Esempio di applicazione di un codice: Trasmissione di Immagini 36

37

38 ple ple Posizioni di informazione Posizioni di ridondanza 38

39 39