Codici rivelatori e correttori

Transcript

1 Codici rivelatori e correttori Federico Cerutti AA. 2011/2012 Modulo di Elementi di Informatica e Programmazione Federico Cerutti <federico.cerutti@ing.unibs.it>

2 Concetti di base Codice di parità Codice di Hamming Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 2

3 Codici ridondanti e non ridondanti Definizione (Codice/Codice binario) Dato un alfabeto A, Ã A e un insieme di oggetti da rappresentare D, un codice su A, C D A, è una funzione biiettiva CD A D Ã. Dato l alfabeto binario B, ogni codice su B è un codice binario (C D ). Definizione (Codice binario a n bit) Un codice binario a n bit C D n è un codice tale che C D n D B n ove B n {w B w = n}. Definizione (Codice ridondante e non ridondante) Dato un codice binario a n bit Cn D D B n, se B n B n {w B w = n}, allora Cn D è detto ridondante, altrimenti è detto non ridondante. B n B n è detto insieme delle non-codifiche. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 3

4 Codici ridondanti e non ridondanti 01 O 1 00 O 2 11 insieme delle codifiche dominio 10 insieme delle non-codifiche codominio Codice a 2 bit ridondante, per rappresentare due oggetti O 1 e O 2. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 4

5 Metrica di Hamming Definizione (Distanza) Date due parole x, y di lunghezza n sull alfabeto binario, si dice distanza di Hamming o semplicemente distanza d(x, y) il numero di posizioni in cui esse differiscono; ovvero d(x, y) = {i x i y i }. NB: la distanza di Hamming è una distanza propriamente definita sull insieme delle parole di lunghezza n sull alfabeto B, quindi: Esempio d(a, b) 0 con d(a, b) = 0 sse a = b; d(a, b) = d(b, a); d(a, c) d(a, b) + d(b, c). Siano x = 10110, y = su B; allora d(x, y) = 3. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 5

6 Metrica di Hamming Definizione Sia B n un insieme di parole della medesima lunghezza n sull alfabeto B. Fissato w B n, la sfera di Hamming di centro w e raggio ρ è l insieme S ρ (w) = {b B n d(b, w) ρ} S 1 (111) su B 3. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 6

7 Metrica di Hamming Definizione Dato un codice binario a n bit Cn D D B n, la distanza del codice Cn D è la quantità d C D n = min{d(x, y) x, y B n x y}. Nota Un codice non ridondante ha distanza pari a 1. Il viceversa non vale. Esempio Dato D = 00, 01, 10, 11, sia C5 D tale che , , , d quindi d C D = Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 7

8 Metrica di Hamming La distanza tra due codifiche (o vertici) è data dal (minimo) numero di archi che si deve percorrere per andare da un vertice all altro. Assunzione di fondo: un singolo errore cambia un unica coordinata, due errori cambiano due coordinate, e in generale d errori producono differenze in d coordinate. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 8

9 Metrica di Hamming d Se il codice ha distanza d, posso identificare al più d 1 errori (ciascuno coinvolgente un bit). Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 9

10 Metrica di Hamming d Se il codice ha distanza d, posso correggere al più d 1 2 errori (ciascuno coinvolgente un bit). d 2 Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 10

11 Distanze, rivelazione e correzione Per identificare fino a k errori in qualunque situazione (ciascuno coinvolgente un bit) è necessario e sufficiente un codice avente distanza maggiore o eguale a k + 1; per correggere fino a k errori in qualunque situazione (ciascuno coinvolgente un bit) è necessario e sufficiente un codice avente distanza maggiore o eguale a 2k + 1. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 11

12 Esercizi Esercizio da appello Qual è la distanza fra le seguenti due codifiche (a 8 bit) e ? Soluzione d = 3 Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 12

13 Esercizi Esercizio da appello Si consideri il codice a 3 valori originari su 6 bit: A B C Trovare quanti errori può correggere e rivelare in generale. 2 Si supponga di ricevere la sequenza Assumendo che possano essere stati compiuti al più 2 errori, è possibile decodificare correttamente la sequenza? 3 Come si giustifica la risposta in relazione al risultato trovato nel punto 1)? Soluzione Punto 1. d A,B = 1, d B,C = 5, d A,C = 6. Quindi d = min{1, 5, 6} = 1. Quindi il codice non può (in generale) rivelare né tanto meno correggere alcun errore. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 13

14 Esercizi Soluzione (continua) Punto 2. Ricevo : valuto le distanze dalle codifiche corrette: A d A = 4 B d B = 3 C d C = 2 In questo caso posso decodificare con il valore C. Se sono stati commessi al più due errori sono sicuro che la decodifica è corretta, perché: d A = 4 > 2 [ non può essere modificato in ] d B = 3 > 2 [ non può essere modificato in ] Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 14

15 Esercizi Soluzione (continua) Punto 3. Posso correggere due errori anche se (cfr. punto 1) il codice ha distanza 1. Infatti, la distanza del codice si riferisce al caso peggiore (distanza minima). Pertanto le relative formule garantiscono le proprietà del codice di rilevazione e correzione di errori in ogni caso, ovvero per qualunque simbolo rappresentato e per qualunque posizione degli errori. Per esempio, nel caso venga trasmesso A (codificato con ), è sufficiente un errore sull ultimo bit per ottenere , che è pari alla codifica di B: in tal caso l errore non verrebbe neppure rivelato! Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 15

16 Concetti di base Codice di parità Codice di Hamming Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 16

17 Codice rivelatore di singolo errore Definizione (Codice di parità) Data una sequenza di n 1 bit, il corrispettivo codice di parità si ottiene aggiungendo un bit di controllo, detto bit di parità in modo tale che: Esempio il numero di bit a 1 sia pari (parità pari); il numero di bit a 1 sia dispari (parità dispari). Consideriamo un codice a 8 bit più un bit di parità nella posizione meno significativa (la prima da destra): la codifica con parità pari risulta errata, mentre la codifica risulta corretta. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 17

18 Codice rivelatore di singolo errore Nota La distanza del codice di parità è 2: intuitivamente se abbiamo una codifica con un numero pari di bit a 1, dobbiamo modificare due bit per ottenere un altra codifica che abbia un numero pari di bit a 1. Inoltre una codifica su n bit può essere vista come un iper-cubo di n dimensioni: questo ipercubo è composto da due ipercubi di dimensione n 1, i quali a loro volta sono composti da altri due ipercubi di dimensione n 2 e così via fino a incontrare un quadrato. Se disponiamo una codifica su due bit in termini spaziali, si vedrà immediatamente che le codifiche con numero pari (analogamente dispari) di bit a 1 differiscono sempre di due posizioni (vedi immagine slide seguente). Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 18

19 Codice rivelatore di singolo errore Codifiche con parità pari (dispari) su due bit sono a distanza due. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 19

20 Esercizi Esercizio da appello Dato il codice su 8 bit, determinare il corrispettivo codice di parità dispari su 9 bit aggiungendo il bit di parità nella posizione più significativa. Soluzione contiene un numero pari di bit a 1. Dal momento che viene richiesto un codice di parità dispari, devo fare in modo che il codice risultante abbia un numero dispari di bit a 1. Quindi aggiungerò un bit di valore 1 nella posizione più significativa, quindi: Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 20

21 Esercizi Esercizio da appello Si riceve la seguente codifica su 8 bit: Sapendo che prima della sua trasmissione è stato applicato un codice di parità pari su 7 bit con bit di parità nella posizione meno significativa, evidenziare la porzione che rappresenta l informazione originaria. Soluzione Il codice ottenuto ha un numero dispari di bit, mentre era stato codificato con un codice di parità pari. Di conseguenza è intercorso almeno un errore. Pertanto non è possibile recuperare l informazione originaria. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 21

22 Esercizi Esercizio da appello Si riceve la seguente codifica su 8 bit: Sapendo che prima della sua trasmissione è stato applicato un codice di parità pari su 7 bit con bit di parità posto nella quarta cifra da destra, evidenziare la porzione che rappresenta l informazione originaria. Soluzione Il codice ottenuto ha un numero pari di bit, quindi o non vi sono stati errori, oppure vi sono stati errori non rilevabili. Assumendo che non vi siano stati errori, l informazione originaria è composta dalla sequenza ricevuta escluso il bit nella quarta posizione da destra, ovvero Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 22

23 Concetti di base Codice di parità Codice di Hamming Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 23

24 Ipotesi iniziali Vogliamo ottenere una codifica su n bit; Destiniamo m (m < n) bit per codificare l informazione; Destiniamo r (r = m n) bit per posizioni di controllo: Ogni posizione di controllo contiene il codice di parità pari di un sottoinsieme degli m bit originari; All atto del controllo di errore, eseguiamo i r controlli di parità in ordine: se il controllo va a buon fine, scriviamo 0, altrimenti 1; Dal controllo dell errore otteniamo un numero binario (scrivendo da destra a sinistra gli 0 o 1 derivanti dal controllo di parità), detto numero di controllo (o checking number). Il numero di controllo deve fornire la posizione di ogni singolo errore, numerando i bit del codice da destra a sinistra a partire da 1, oppure essere pari a zero (che significa nessun errore). Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 24

25 Trade-off tra m e r Il numero di controllo deve fornire la posizione di ogni singolo errore; se il numero di controllo vale 0, ciò significa che non vi è stato un singolo errore (e quindi la codifica viene interpretata come corretta) Sui r bit a disposizione per il controllo dell errore, devo poter codificare n + 1 valori (le n posizioni del codice, più lo 0) 2 r n m + r +1 e quindi 2 m 2n n + 1 Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 25

26 Trade-off tra m e r Con 2 m 2n n + 1 n m r corrispondente Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 26

27 Il numero di controllo e le posizioni Il numero di controllo si ottiene cifra per cifra da destra a sinistra applicando i controlli di parità in ordine e scrivendo nelle giuste corrispondenze le cifre 0 e 1. Pertanto il primo controllo di parità dovrà eventualmente evidenziare errori nelle posizioni il cui numero ha un 1 nella posizione meno significativa della cifra binaria equivalente. Posizioni con 1 nella cifra meno significativa Base 2 Base Il primo controllo di parità sarà relativo alle posizioni 1, 3, 5, 7, 9,... Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 27

28 Il numero di controllo e le posizioni Il secondo controllo di parità dovrà permettere di evidenziare errori nelle posizioni che hanno un 1 nella seconda cifra meno significativa della corrispondente cifra binaria. Posizioni con 1 nella seconda cifra meno significativa Base 2 Base Il secondo controllo di parità sarà relativo alle posizioni 2, 3, 6, 7, 10,... Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 28

29 Il numero di controllo e le posizioni Il terzo controllo di parità dovrà permettere di evidenziare errori nelle posizioni che hanno un 1 nella terza cifra meno significativa della corrispondente cifra binaria. Posizioni con 1 nella terza cifra meno significativa Base 2 Base Il terzo controllo di parità sarà relativo alle posizioni 4, 5, 6, 7, 12,... Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 29

30 Il numero di controllo e le posizioni Le posizioni dei bit di controllo nel codice di Hamming per correzione di singolo errore sono quelle espresse in potenze di due, quindi 1, 2, 4, 8, 16,... Questa scelta garantisce la totale indipendenza tra le posizioni dei bit di controllo (ovvero utilizzo come posizioni dei bit di controllo le posizioni che non appartengono ad alcuna intersezione degli insiemi di posizioni controllate presi a 2 a 2). Cifra num.contr. Pos. bit controllo Pos. controllate 1 1 1, 3, 5, 7, 9, 11, 13, 15, 17, , 3, 6, 7, 10, 11, 14, 15, 18, , 5, 6, 7, 12, 13, 14, 15, 20, , 9, 10, 11, 12, 13, 14, 15, 24, Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 30

31 Il codice è ridondante... Avendo a disposizione 8 bit Codifica naturale: posso codificare numeri da 0 a (in totale 2 8 elementi); Codifica con codice di Hamming per correzione di singolo errore su 8 bit: gli n bit iniziali sono 8, quindi m = 4 e r = 4. Di conseguenza, i bit che posso utilizzare per codificare un informazione sono solo m = 4, permettendomi quindi di codificare 2 4 possibili valori, che potrebbero essere i numeri da 0 a = 15. Pertanto, vi sono = 240 valori che non rappresentano codifica dell informazione, ma servono sia per codificare i bit di controllo, sia per ottenere una distanza di codice pari a 3. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 31

32 Codice di Hamming (singolo errore) su 8 bit Posizioni Base in rosso i bit di controllo, in blu i bit di informazione Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 32

33 Esercizi Esercizio da appello Volendo trasmettere la codifica (su 5 bit) A 10011, determinare la corrispondente codifica mediante codice di Hamming correttore di singolo errore, identificando il numero minimo di bit necessari per trasmettere A, il valore e la posizione dei bit di controllo considerando posizioni da destra a sinistra e scegliendo le posizioni dei bit di controllo in modo tale da avere indipendenza tra le posizioni dei bit di controllo. Soluzione Determiniamo il numero (r) di bit di controllo necessari. Sappiamo che deve valere 2 r m + r + 1, con m = 5, quindi 2 r r + 6. r = r = r = r = 4 r = r = Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 33

34 Esercizi Soluzione (continua) Dati m = 5, il numero minimo di bit di controllo è r = 4, e quindi il numero minimo di bit per trasmettere A utilizzando il codice di Hamming correttore di singolo errore è n = m + r = 9. Determiniamo le posizioni dei bit di controllo e gli insiemi di bit controllati associati. Dal momento che abbiamo 4 bit di controllo, dovremo effettuare 4 controlli di parità. Determiniamo quindi su quali bit vengono effettuati i controlli di parità. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 34

35 Esercizi Soluzione (continua) Il primo controllo di parità deve poter evidenziare errori nelle posizioni fino a n = 9 che (scritte in binario) terminano con un 1. Base 2 Base Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 35

36 Esercizi Soluzione (continua) Il secondo controllo di parità deve poter evidenziare errori nelle posizioni fino a n = 9 che (scritte in binario) hanno 1 nella seconda cifra meno significativa. Base 2 Base Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 36

37 Esercizi Soluzione (continua) Il terzo controllo di parità deve poter evidenziare errori nelle posizioni fino a n = 9 che (scritte in binario) hanno 1 nella terza cifra meno significativa. Base 2 Base Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 37

38 Esercizi Soluzione (continua) Il quarto controllo di parità deve poter evidenziare errori nelle posizioni fino a n = 9 che (scritte in binario) hanno 1 nella quarta cifra meno significativa. Base 2 Base Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 38

39 Esercizi Soluzione (continua) Per avere indipendenza tra le posizioni dei bit di controllo, dati i quattro insiemi di posizioni controllate, evidenziamo quelle posizioni che non sono contenute dall intersezione dei quattro insiemi presi a due a due. Come è noto risultano essere le posizioni determinate dalle potenze di due, e quindi 1, 2, 4, 8. Cifra num.contr. Pos. bit controllo Pos. controllate 1 1 1, 3, 5, 7, , 3, 6, , 5, 6, , 9 Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 39

40 Esercizi Soluzione (continua) A questo punto, dal momento che abbiamo n = 9 bit a disposizione, iniziamo a riempire i bit nelle posizioni relative all informazione. Dobbiamo codificare A 10011, quindi Le posizioni vuote sono quelle che andremo a riempire calcolando il bit di parità delle posizioni controllate. Il primo bit di controllo da generare è il bit di parità pari delle posizioni 1, 3, 5, 7, 9 e deve essere inserito nella posizione 1. Dal momento che la sequenza binaria estratta considerando solamente le posizioni 9, 7, 5, 3 è 1011 ed ha un numero dispari di bit pari a 1, allora nella posizione 1 dovrò inserire un bit pari a 1 per soddisfare il codice di parità. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 40

41 Esercizi Soluzione (continua) Il secondo bit di controllo è posto nella posizione 2 e controlla i bit nelle posizioni: 2, 3, 6, 7. La sequenza di bit nelle posizioni 7, 6, 3 è 001, quindi per soddisfare il codice di parità pari dovrò inserire un 1 nella posizione Il terzo bit di controllo è posto nella posizione 4 e controlla i bit nelle posizioni: 4, 5, 6, 7. La sequenza di bit nelle posizioni 7, 6, 5 è 001 quindi dovrò inserire un 1 nella posizione 4. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 41

42 Esercizi Soluzione (continua) L ultimo bit di controllo è posto nella posizione 8 e controlla i bit nelle posizioni: 8, 9. Il bit nella posizione 9 è pari a 1, quindi per inserirò 1 nella posizione Il risultato della codifica di A con codice di Hamming correttore di singolo errore è la seguente (in blu i bit di controllo): Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 42

43 Esercizi Esercizio da appello È stata ricevuta la seguente sequenza di 10 bit che era stata codificata con un codice di Hamming correttore di singolo errore con posizioni dei bit di controllo indipendenti. Determinare l informazione originaria trasmessa. Soluzione Il numero di bit utilizzati è n = 10, le posizioni dei codici di controllo sono indipendenti, quindi sono le posizioni 1, 2, 4, 8, pertanto r = 4 e m = 4. Evidenziamo i bit di controllo (in blu) e i bit di informazione (in nero) Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 43

44 Esercizi Soluzione (continua) Ricordiamo le posizioni di controllo: Cifra num.contr. Pos. bit controllo Pos. controllate 1 1 1, 3, 5, 7, , 3, 6, 7, , 5, 6, , 9, 10 Computiamo il numero di controllo, la cui prima cifra è il risultato (N.B. 0 corretto, 1 errore) del controllo di parità pari sui bit di posizione 9, 7, 5, 3, 1, ovvero sulla sequenza di bit Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 44

45 Esercizi Soluzione (continua) La sequenza ha un numero dispari di bit pari a 1, quindi il controllo non va a buon fine (e scriveremo 1 nella posizione 1 del numero di controllo) Codifica ricevuta N. controllo La seconda cifra del numero di controllo è il risultato del controllo di parità pari sui bit di posizione 10, 7, 6, 3, 2, quindi sulla sequenza di bit Il numero di bit a 1 di questa sequenza è dispari, quindi scriverò un 1 come seconda cifra del numero di controllo Codifica ricevuta N. controllo Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 45

46 Esercizi Soluzione (continua) La terza cifra del numero di controllo è il risultato del controllo di parità sui bit di posizione 7, 6, 5, 4, quindi sulla sequenza di bit Il numero di bit pari a 1 in questa sequenza è un numero pari, quindi scriverò 0 nella terza posizione del numero di controllo Codifica ricevuta N. controllo L ultima cifra del numero di controllo è il risultato del controllo di parità sui bit di posizione 10, 9, 8, quindi sulla sequenza di bit 011. Il numero di bit pari a 1 in questa sequenza è un numero pari, quindi scriverò 0 nella quarta posizione del numero di controllo Codifica ricevuta N. controllo Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 46

47 Esercizi Soluzione (continua) Dal controllo dell errore otteniamo il seguente numero di controllo: 0011 (3) 10. La sequenza ricevuta non è corretta: è presente un errore nella posizione 3. Pertanto il bit nella posizione 3 deve essere cambiato. La sequenza corretta diventa quindi: Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 47

48 Esercizi Soluzione (continua) Sulla sequenza corretta, evidenziamo nuovamente le posizioni di controllo (blu) e le posizioni di informazione (nero): L informazione originaria che è stata poi codificata con codice di Hamming correttore di singolor errore e poi trasmessa è: Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 48

49 Esercizi Esercizio da appello È stata ricevuta la seguente sequenza di 11 bit come risultato della trasmissione dell informazione che era stata codificata con un codice di Hamming correttore di singolo errore con posizioni dei bit di controllo indipendenti (quindi era stata trasmessa la sequenza ). Verificare la codifica ricevuta e commentare il risultato. Soluzione n = 11, r = 4; evidenzio i bit di controllo: Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 49

50 Esercizi Soluzione (continua) Cifra num.contr. Pos. bit controllo Pos. controllate 1 1 1, 3, 5, 7, 9, , 3, 6, 7, 10, , 5, 6, , 9, 10, Codifica ricevuta N. controllo Il numero di controllo è 1100 (12) 10. Questo risultato non ha alcun significato dal momento che il numero di bit per la codifica è 11. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 50

51 Esercizi Soluzione (continua) In realtà, dal momento che i bit di controllo sono r = 4, è possibile identificare errori su 2 r 1 posizioni, quindi su = 15 posizioni. Quindi, il codice rappresentato su 11 bit viene visto dal numero di controllo come se fosse su 15 bit, con i restanti 4 bit sempre pari a 0. Quindi, quello che il numero di controllo pari a 1100 ci dice, è che se n fosse almeno 12 (ovvero se codificassi almeno con 12 bit) e quindi se interpretassi la codifica che ho ricevuto, ovvero , con uno zero nella posizione più significativa, ovvero , allora vi sarebbe un errore sul bit di posizione 12 da destra, ovvero quello più significativo. Quindi, su 12 bit, la codifica potrebbe essere corretta come Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 51

52 Esercizi Soluzione (continua) Restando invece nell ambito della codifica così come era specificata, quindi su 11 bit: Codifica trasmessa: Codifica ricevuta: Quindi la distanza tra le due codifiche è pari a 2. Con il codice di Hamming correttore di singolo errore non è possibile correggere errori che coinvolgono più di un bit. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 52

53 Per esercitarsi sul codice di Hamming Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 53

54 Il codice di Hamming è ottimale Riepilogo dei vincoli tra n, m e r. 2 r n m + r +1 2 n m n m 2n n + 1 Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 54

55 Il codice di Hamming è ottimale Con m bit a disposizione per codificare l informazione, posso avere 2 m codifiche, quindi ho 2 m sfere centrate sulle 2 m parole del codice. Dal momento che il codice deve avere distanza 3 per correggere un errore, queste sfere devono avere raggio 1 e non essere intersecanti. d=3 d>3 n dimensioni d=3 Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 55

56 Il codice di Hamming è ottimale d=3 d>3 n dimensioni d=3 Ognuna di queste sfere contiene quindi n + 1 elementi, ovvero il centro della sfera stesso e le n combinazioni della codifica dell elemento centro della sfera ottenute modificando un singolo bit (ovvero muovendomi sulle varie dimensioni). Quindi, se su n bit ho 2 n elementi, e devo raggruppare questi elementi in sfere di n + 1 elementi, otterrò un numero di sfere pari a 2n n + 1. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 56

57 Il codice di Hamming è ottimale Riassumendo, so che per identificare un errore o affermare la correttezza di un codice su n = m + r bit vi è il seguente limite teorico: 2 m 2n n + 1. Con m bit di informazione, devo ottenere 2 m sfere con le caratteristiche descritte nei lucidi precedenti. Dati n bit, vi sono ricercate. 2n n + 1 sfere che soddisfano le caratteristiche Quindi, 2 m = 2n. Dal momento che il limite teorico è n m 2n, e dal momento che con il codice di Hamming n + 1 correttore di singolo errore si può raggiungere questo limite teorico, si può affermare che il codice di Hamming correttore di singolo errore è ottimale. Elementi di Informatica e Programmazione, A.A. 2011/12 Federico Cerutti 57