1) Codici lineari a blocchi. 2) Matrice generatrice del codice. 3) Proprietà dei codici lineari a blocchi. 4) Matrice di controllo di parità

Transcript

1 Argomenti della Lezione ) Codici lineari a blocchi ) Matrice generatrice del codice 3) Proprietà dei codici lineari a blocchi 4) Matrice di controllo di parità 5) Rivelazione e correzione d errore 6) Standard arra

2 Codici lineari a blocchi Viene definito Campo di Galois di ordine, GF(), l insieme costitito dai de elementi {,} con le operazioni di somma modlo (XOR) e prodotto modlo (AND). Un codice binario lineare a blocchi C è n sottospazio vettoriale di dimensione k dello spazio vettoriale Vn costitito da ttti i vettori di n elementi appartenenti all insieme GF(). E possibile individare na base di tale sottospazio, costitita da k vettori, e costrire na matrice G le ci k righe coincidono con i vettori della base e che viene detta matrice generatrice del codice.

3 Codici lineari a blocchi n sommatori modlo (EX-OR) otpt register (registro a scorrimento a n stadi) k k- x n x n- x x x inpt register (registro a scorrimento a k stadi) [,,, k ] vettore di k digit di informazione x [x, x,, x n ] codeword Le operazioni avvengono in parallelo ed ogni sommatore è connesso ad n sottoinsieme di stadi del registro di ingresso I clock dei de registri sono diversi, essendo la freqenza in scita più alta di /R c, dove R c k/n è il rate del codice 3

4 Codici lineari a blocchi Ogni sommatore è connesso ad n sottoinsieme di stadi del registro In particolare il codificatore (o il codice) pò essere sistematico e dnqe avere i primi k digit della codeword come replica dei digit d informazione della dataword, ed i rimanenti (n-k) come controlli di parità si k digit d informazione 4

5 Esempio: codice a controllo di parità singola Una seqenza di k digit binari viene trasformata in na seqenza di n k digit aggingendo in ltima posizione n novo digit binario (parit-check digit) con la regola di avere n nmero pari di nella nova seqenza Un errore nel canale che cambi la parità della seqenza, trasformandola da pari a dispari, pò essere rilevato dal decodificatore I controlli di parità nelle seqenze binarie sono trattati con l aritmetica modlo (realizzata, nella pratica, tramite XOR): Nei codici a blocchi il concetto di parità viene opportnamente esteso ai controlli di parità non singola 5

6 Esempio: codice a ripetizione (3,) Codeword con n3 date da x, x, x 3 codificatore Dataword Codeword k x 3 x x n3 Il codificatore è sistematico Nel codice si sano solo delle 8 possibili seqenze di lnghezza 3 6

7 Esempio: codice a controllo di parità (3,) Il codice ha il terzo digit di controllo di parità si primi de: x, x,, x 3 codificatore Dataword Codeword k x 3 x x n 3 x 3 se e, dnqe, nmero di pari (nessno oppre ) x 3 in caso di nmero di dispari Il codificatore è sistematico, e tilizza solo 4 delle 8 possibili seqenze di lnghezza 3 7

8 Il codice è sistematico ed tilizza solo 6 delle 7 8 possibili seqenze Il codice è dato da: x i x x x i,,3,4 i 3 Esempio: codice di Hamming (7,4) k x 7 x 6 x 5 x 4 x 3 x x n 7 codificatore Dataword Codeword 8

9 Matrice generatrice del codice Il codice viene specificato dalle connessioni tra gli stadi del registro di ingresso ed i sommatori Se il codice è sistematico, vanno assegnate solo le (n-k) eqazioni del controllo di parità L informazione che specifica la regola di codifica (ovvero, la strttra del codificatore) è rappresentabile in modo sintetico da na matrice binaria G di dimensioni k x n (matrice generatrice del codice) L elemento (i,j) di G vale se l i-esima cella del registro d ingresso è connessa al j-esimo sommatore, altrimenti vale 9

10 Matrice generatrice del codice Si pò qindi scrivere: x G () con x [x,,x n ] vettore ( x n) ed [,, k ] vettore ( x k) Dalla (), x viene ottento sommando le righe di G che corrispondono agli nella

11 Per il codice di Hamming (7,4), la matrice generatrice G pò essere ricavata per ispezione dal codificatore: G x x x i i i,,3,4 Esempio Esempio Ad esempio, la codeword che corrisponde alla data word [] si calcola sommando (mod. ) le prime de righe di G: codeword (coincide con risltato nella tabella del codificatore) 4 7 x x G

12 Per n codice sistematico le prime k colonne di G formano na matrice identità k x k, ovvero I k,e si ha: G [ I k P ] dove P è na matrice di dimensioni [k x (n-k)] contenente le informazioni relative ai controlli di parità Per n codice sistematico la conoscenza di P definisce in modo Matrice generatrice del codice Matrice generatrice del codice Per n codice sistematico la conoscenza di P definisce in modo completo la regola di codifica G ESEMPIO Per il codice di Hamming (7,4) si ha: P I 4

13 Proprietà dei codici lineari a blocchi Proprietà : Ogni codeword è na somma di righe della matrice generatrice Proprietà : Il codice a blocchi è costitito da ttte le possibili somme delle righe della matrice generatrice Proprietà 3: La somma di de codeword è ancora na codeword Proprietà 4: La n-pla di ttti zeri è sempre na codeword 3

14 Proprietà dei codici lineari a blocchi Peso di Hamming di na codeword: nmero di contenti Distribzione dei pesi del codice: insieme di ttti i pesi di n codice, insieme al nmero di codeword di qel peso Codici eqivalenti hanno la stessa distribzione dei pesi Distanza di Hamming d ij tra de codeword x i e x j : nmero di posizioni in ci le de codeword differiscono. Si ha : d ij n Distanza minima d min del codice: la più piccola tra le distanze di Hamming di distinte codeword (i j) ij Proprietà 5: la distanza minima di n codice a blocchi lineare è il peso minimo della codeword diversa da zero 4

15 Esempio Per il codice di Hamming (7,4) si ha la segente distribzione dei pesi: Peso Nmero di codewords Dalla proprietà (5) si ottiene: d min 3 codificatore Datawords Codewords 5

16 Eqivalenza tra codici a blocchi sistematici e non sistematici Ogni codice lineare a blocchi (n,k) non sistematico è eqivalente a n codice lineare a blocchi sistematico (n,k) Qindi si possono considerare solo codici sistematici, senza perdita di generalità Infatti de codici le ci matrici generatrici possono essere ottente l na dall altra con operazioni elementari slle righe e permtazioni slle colonne hanno la stessa probabilità di rilevare na parola errata e qindi sono detti eqivalenti Tttavia la probabilità di errore sl bit pò essere diversa, dato che codici eqivalenti possono avere codificatori diversi e, cioè, diversi mapping tra le dataword e le codeword Se interessa la probabilità di rilevare na parola errata si possono considerare solo codici sistematici 6

17 Rivelazione e correzione d errore: assnzioni. Ipotesi di demodlatore hard. Canale di comnicazione discreto modellizzabile come n BSC con probabilità di inversione r<, 3. Simboli di sorgente eqiprobabili 7

18 Rivelazione d errore Vettore errore (binario): e [ e,, e n ] dove e i se il canale ha cambiato l i-esimo bit trasmesso ovvero se la decisione all scita del canale rmoroso è stata errata Si consideri n codificatore sistematico (gli ltimi n-k digit sono controlli di parità) La seqenza all ingresso del decodificatore, di n bit, ha i primi k bit costitenti i bit d informazione ricevti, ed i rimanenti n-k bit costitenti i controlli di parità ricevti: x e x e x codeword trasmessa, vettore ricevto ( vettori riga ( x n) ) 8

19 Rivelazione d errore contiene errori casali indipendenti casati dal rmore nel canale Il decodificatore sa i primi k bit ricevti per calcolare gli (n-k) controlli di parità, e li confronta con gli (n-k) controlli di parità ricevti Se sono gali, la seqenza ricevta è na codeword; se almeno no degli (n-k) controlli di parità fallisce, viene dichiarata la presenza di n errore 9

20 Matrice di controllo di parità Si è visto che: x G, con x vettore (xn) ed vettore (xk) e che, per n codice sistematico: G [ I k P ] H [ P T I n-k ] è la matrice del controllo di parità [ (n-k) x n ] le ci righe rappresentano i simboli di controllo di parità dal decodificatore tale che: GH T H T trasposta di H; P T trasposta di P

21 Sindrome Poichè GH T, se il vettore x è na codeword del codice, si ha: xh T Si introdce ora il vettore binario s della configrazione dei fallimenti nei controlli di parità (bit valgono per i controlli di parità soddisfatti, e per qelli non soddisfatti), detto sindrome: s H T dim. x(n-k)

22 Rivelazione d errore Proprietà I: La sindrome associata a è zero se e solo se è na codeword Proprietà II: Il decodificatore pò rilevare gli errori del canale rappresentati da vettori che non sono codeword, ovvero n - k vettori Osservazione: la distanza minima tra dataword è pari a. Di consegenza n codice a blocchi deve avere na distanza minima almeno pari a.

23 Rivelazione d errore TEOREMA (SULLA RILEVAZIONE D ERRORE): Un codice lineare a blocchi (n,k) con distanza minima d min pò rilevare ttti i vettori errore di peso non maggiore di: r d min - (capacità di rivelazione d errore) ovvero si rivela n nmero massimo di errori pari a (d min -) ESEMPIO: Il codice di Hamming (7,4) presenta d min 3 e qindi pò rilevare sino a: 3- errori 3

24 La sindrome non permette di localizzare in modo diretto gli errori all interno della codeword, qindi non permette correzione ma solo rivelazione Si pò scrivere: s H T (x e) H T ed essendo x na codeword, per la proprietà I si ha: x H T e qindi: Rivelazione d errore s H T (x e) H T eh T Ci sono k seqenze che generano la stessa sindrome Qindi, data na codeword trasmessa x, ci sono k seqenze di errore che generano la stessa sindrome Per ottenere la correzione deve essere sato n opportno algoritmo di decodifica 4

25 Codice di Hamming (7,4): x x x x i i i,, 3, 4 M M M H P T I 3 matrice del controllo di parità (n - k) x n 3 x 7 P Esempio Esempio ) ( ) ( ) ( s s s 4 7 Controlli di parità effettati dal decodificatore slla ricevta: s H T [ ] 3 s s s s P I 3 [ ]

26 Esempio: Dataword: [ ] Codifica con Hamming (7,4): codeword x[ ] ) Seqenza ricevta [ ] (no errore) Calcolo della sindrome: ) ( ) ( 5 3 s s Esempio Esempio ) Seqenza ricevta [ ] ( errore) Calcolo della sindrome: ) ( ) ( s s ) ( ) ( ) ( s s s 6

27 Correzione d errore: decodifica a massima verosimiglianza Si assme n criterio a massima verosimiglianza (ML - maximm likelihood) nelle decisioni (ciò significa che si ottiene la minima probabilità di errore di parola slle codeword ricevte qando sono eqiprobabili) La decodifica ML si pò ottenere con il criterio della minima distanza di Hamming (si sceglie la codeword x i più vicina a ) L algoritmo di decodifica basato slla minima distanza di Hamming ipotizza che e, il vettore errore effettivamente occorso, sia qello a minimo peso nell insieme dei k vettori errore che portano alla stessa sindrome associata alla seqenza ricevta 7

28 Correzione d errore: decodifica a massima verosimiglianza TEOREMA (SULLA CORREZIONE D ERRORE): Un codice lineare a blocchi (n,k), con distanza minima d min, pò correggere ttti i vettori d errore contenenti n nmero di errori non maggiore di: t (d min - ) / min (capacità di correzione dell errore) dove a denota il più grande intero contento in a. ESEMPIO: Il codice di Hamming (7,4) presenta d min 3 e qindi pò correggere t (3-) / errori, ovvero errori singoli 8

29 Correzione d errore: decodifica a massima verosimiglianza Regioni di decisione: dmin ( dmin ) ( dmin )/ DetectedErrors CorrectedErrors Un codice a blocchi (n,k) con distanza minima d min è n codice a correzione di t errori (t-error correcting code), o codice (n,k,t) L obiettivo di n codice a blocchi (n,k) è di sare la propria ridondanza per ottenere la maggiore d min possibile 9

30 Costrzione della matrice canonica Con l algoritmo di decodifica basato sl criterio di massima verosimiglianza la decodifica viene effettata cercando la codeword più vicina (minima distanza di Hamming) alla seqenza ricevta. Ciò eqivale a stimare i vettore di errore e con il minimo peso che ha generato il vettore ricevto a partire dalla trasmissione di na delle k codeword x. Infatti lo stesso vettore pò essere ricevto da coppie diverse xe, e coppie diverse hanno vettori di errore a peso diverso. Il criterio a massima verosimiglianza stima che il vettore di errore e che ha generato sia qello a peso minimo. 3

31 Costrzione della matrice canonica Dato n vettore riga w di dimensione n, a partire dal codice lineare a blocchi C possiamo costrire n coset C (coinsieme) definito come l insieme di k vettori riga di dimensione n dati da: C {wx i, x i C} Dato n codice lineare a blocchi (n,k), a partire da esso è possibile costrire n-k distinti coset. De distinti coset hanno come intersezione l insieme voto. La matrice canonica (standard arra) di n codice C è na matrice con n-k righe e k colonne i ci elementi sono ttti i n distinti vettori riga di dimensione n. La prima riga della matrice canonica contiene le k codeword del codice C. L elemento slla prima riga e prima colonna è sempre la codeword di ttti zeri. 3

32 Costrzione della matrice canonica Gli elementi slla prima colonna della matrice canonica sono detti coset leader e rappresentano gli errori a peso minimo che generano n certo coset (riga della matrice). Una volta riempita la prima riga della matrice canonica si procede a riempire le righe sccessive con i coset di C ottenti sommando nell ordine ttti i vettori con peso pari a, ttti i vettori con peso pari a e così via finche non vengono costrite ttte le n-k righe della matrice canonica. La decodifica tramite matrice canonica avviene individando il vettore ricevto tra gli elementi della matrice canonica e stimando come codeword trasmessa qella che si trova slla stessa colonna del vettore ricevto (e in prima riga). 3

33 Costrzione della matrice canonica L tilizzo della matrice canonica in fase di decodifica necessita la memorizzazione di n vettori di dimensione n e il confronto del vettore ricevto con ttti gli elementi della matrice canonica. Per n grande la complessità del processo di decodifica e la capacità di memoria necessaria diventa elevata. Un procedimento con minore complessità e minore capacità di memoria fa so della tabella di decodifica. 33

34 Si osservi che i vettori s na stessa riga della matrice canonica hanno la stessa sindrome. La prima riga della matrice canonica contiene ttti i vettori con sindrome nlla (le codeword). Alla prima colonna della matrice canonica possiamo qindi affiancare na colonna con le sindromi relative agli elementi slla stessa riga. Costrzione della tabella di decodifica Poichè x e, per stimare la codeword trasmessa è sfficiente stimare il vettore di errore introdotto dal canale e sommarlo al vettore ricevto E sfficiente qindi calcolare la sindrome s associata a e poi tilizzare la tabella di decodifica che associa la sindrome al coset leader (errore a peso minimo) e sommare il coset leader al vettore ottenendo la codeword stimata. 34

35 Costrzione della tabella di decodifica I coset leader sono i vettori errore che possono essere corretti Se il vettore errore introdotto dal canale non è n coset leader, verrà effettata na decodifica non corretta Per minimizzare la probabilità d errore media slla codeword i coset leader devono essere i vettori di errore più probabili Per n BSC i coset leader sono le parole a minimo peso associate ad na data sindrome 35

36 Esempio Il codice di Hamming (7,4) presenta d min 3 e ci sono n 7 8 possibili parole ricevte Essendo n - k 3, la sindrome è n vettore ( x 3), cioè ha tre componenti s, s, s 3, e ci sono 3 8 diverse sindromi Si costrisce la matrice canonica del codice (n,k) individando, per ciascna delle 8 sindromi, le 6 parole ricevte che hanno qella sindrome (totale 8x6 8 parole) e scrivendole lngo le righe della matrice La prima riga contiene le parole con sindrome nlla, qindi le parole di codice 36

37 Esempio (contina) Matrice canonica del codice di Hamming (7,4) Ogni vettore e min in prima colonna ha peso ed ha na diversa sindrome l errore singolo pò essere corretto Il coset leader indica in qale delle i,,7 posizioni è l errore ESEMPIO: la sindrome colloca n errore in terza posizione 37

38 Esempio (contina) Coset Posizione Tabella di decodifica del codice di leader errata Hamming (7,4): Sndrome Error vector Digit in error Esempio di decodifica: Si riceve: [ ] La sindrome è: s [ ] None Si assme dnqe n errore in posizione 5 e lo si corregge La codeword ottenta è [ ], che appare in cima alla colonna della matrice canonica che contiene 38

39 Algoritmo di decodifica L algoritmo di decodifica è dnqe il segente:. Calcolare la sindrome della seqenza ricevta. Trovare il vettore errore che pò essere corretto (coset leader) nella tabella di decodifica 3. Prendere la codeword stimata sommando (bit a bit, modlo ) il coset leader alla parola ricevta 39

40 Tabella di decodifica La tabella di decodifica richiede la memorizzazione di: n-k sindromi di lnghezza n-k n-k pattern d errore di lnghezza n: totale: n-k (n-k) bit Per codici ad alta freqenza di codifica ( k n ) il reqisito di memoria è prossimo al valore di n n-k bit, qindi molto minore del valore di n n bit richiesto dallo standard arra completo. Nonostante qesto anche la tabella di decodifica diventa impraticabile per n e k grandi. In qesti casi si deve pertanto ricorrere a strategie di decodifica basate s algoritmi comptazionali, pittosto che s look-p table (partendo da codici a ci si assegni na strttra algebrica più elaborata). 4

41 Proprietà della matrice di controllo di parità Calcolo della sindrome per n codice a blocchi: T T s H (x e)h s eh T s è la somma delle colonne della matrice di controllo di parità H (righe di H T ) corrispondenti alla posizione degli nel vettore errore Se na colonna di H è (ttta) zero, non pò essere rilevato n errore in qella posizione Se de colonne di H sono gali, n errore singolo in na delle de posizioni non pò essere corretto poiché le de sindromi non sono distinte Qindi n codice a blocchi pò correggere ttti gli errori singoli se e solo se le colonne di H sono diverse da zero e distinte 4