4) Teorema fondamentale della codifica di canale. 6) Definizione di codifica di canale (FEC e ARQ)

Transcript

1 Argomenti della Lezione 1) Classificazione dei codici di canale 2) Benefici della codifica di canale 3) Decodifica hard e soft 4) Teorema fondamentale della codifica di canale 5) Classificazione dei codici di canale 6) Definizione di codifica di canale (FEC e ARQ) 1

2 Codifica di canale Assumiamo che la sorgente emetta un data stream di v.a. i.i.d. binarie (simboli binari, bit 0 e 1) a frequenza di simbolo R s bit/s. Nel caso di trasmissione binaria con simboli equiprobabili, la frequenza di simbolo è pari alla frequenza di informazione (H(X)=1). Il codificatore di canale sostituisce ciascun gruppo di k bit di sorgente con un gruppo di n bit codificati (con n>k) di cui n-k bit sono bit ridondanti. All uscita del codificatore di canale si ha il code stream. R c = k/n < 1, è detta frequenza di codifica Source u, T s R s bit/s Channel Encoder x, T m R s /R c bit/s Modulator Channel User u Channel Decoder x Demodulator 2

3 Codifica di canale T s =1/R s periodo di simbolo di sorgente. T m periodo di simbolo di canale. Per tenere il passo della sorgente, la velocità di trasmissione sul canale deve aumentare. Infatti, per continuità si ha: kt s =nt m La frequenza di trasmissione sul canale 1/T m è pari a R s /R c simboli binari al secondo. Source u, T s R s bit/s Channel Encoder x, T m R s /R c bit/s Modulator Channel User u Channel Decoder x Demodulator 3

4 Codifica di canale La frequenza di informazione rimane pari a R s, mentre la banda richiesta quindi aumenta del fattore 1/R c Come risultato, la codifica di canale riduce l efficienza di banda del sistema di trasmissione di un fattore 1/R c rispetto al sistema non codificato. Source u, T s R s bit/s Channel Encoder x, T m R s /R c bit/s Modulator Channel User u Channel Decoder x Demodulator 4

5 Codifica di canale I simboli binari prodotti dal codificatore di canale vengono inviati al modulatore e convertiti in una sequenza di forme d onda. In fase di analisi della codifica di canale si assume che il modulatore usi una modulazione binaria antipodale e che il canale sia AWGN. Con tale schema di modulazione ogni simbolo binario codificato è impresso dal modulatore su una forma d onda di durata: T m = T s R c = R c /R s secondi quindi più corta di un fattore R c rispetto al caso di assenza di codifica. 5

6 Benefici indotti dalla codifica di canale E s = energia per bit trasmesso (e ricevuto) per una trasmissione non codificata. E m = energia per bit trasmesso (e ricevuto) per una trasmissione codificata. Assumendo una trasmissione a potenza costante e pari a P, la codifica di canale fa diminuire l energia per simbolo di canale di un fattore pari a R c : E m =PT m =PT s R c =E s R c Assumendo la presenza di rumore AWGN con una densità spettrale di potenza costante e pari a N 0, il rapporto segnale rumore (SNR=E b /N 0 ) sarà minore e quindi la probabilità di errore sui simboli binari di canale sarà maggiore rispetto al caso di trasmissione non codificata. 6

7 Benefici indotti dalla codifica di canale La codifica di canale sembra dannosa: Infatti diminuisce l efficienza di banda e aumenta gli errori da attendersi nella sequenza demodulata In realtà: In un sistema di codifica ben progettato, il gran numero di errori all uscita del demodulatore sarà compensato dalla capacità di correzione degli errori da parte del decodificatore Occorre però che gli errori introdotti dal demodulatore non siano troppi, ovvero ci sia un buon rapporto segnale/rumore 7

8 Guadagno di codifica Una trasmissione codificata baratta l efficienza in potenza con l efficienza di banda, OVVERO richiede una minore potenza, a parità di probabilità d errore. Tale riduzione della potenza (o di SNR) a parità di probabilità di errore per il sistema codificato è detta guadagno di codifica. 8

9 Guadagno di codifica Il guadagno di codifica è definito come la differenza (in P b (e) decibel) nel valore di Ε b /N 0 richiesto per ottenere una data probabilità di errore sul bit P b (e) tra una trasmissione binaria antipodale non codificata e quella codificata codificato non codificato Guadagno di codifica Ε b /N 0 Andamento tipico della probabilità d errore sul bit in funzione del rapporto segnale/rumore per sistemi codificati e non codificati 9

10 Guadagno di codifica Il guadagno di codifica (che dipende da P b (e) e,dunque, dal SNR) cresce con il SNR. Per bassi SNR c è un incrocio tra le curve nel caso non codificato e codificato, e il guadagno di codifica diventa negativo. C è un limite a ciò che un codice di canale può fare in termini di miglioramento di un cattivo canale. Oltre tale limite la codifica di canale ha un effetto negativo. 10

11 Caso n.1: hard-decisiondecision decoding Il demodulatore viene impiegato per decidere se ciascuna forma d onda binaria trasporta uno 0 oppure un 1. A tale scopo l uscita del demodulatore viene quantizzata a due livelli, denotati con 0 e 1 ed è detta prendere decisioni hard. La sequenza di bit decisi viene immessa dal demodulatore nel decodificatore, il quale tenta di recuperare la sequenza d informazione usando la ridondanza o per rivelare o per correggere gli errori presenti all uscita del demodulatore. 11

12 Caso n.1: hard-decisiondecision decoding In questo modello, assumendo una modulazione binaria, antipodale e coerente ed un canale AWGN, la combinazione (mod+canale+demod) è equivalente ad un BSC, con probabilità di inversione pari alla probabilità di errore dello schema di modulazione adottato. La prestazione complessiva dello schema codificato dipende dalla realizzazione di efficienti algoritmi per la rivelazione o correzione. 12

13 Caso n.2: unquantized soft-decision decoding L uscita non quantizzata del demodulatore, e cioè le statistiche, sono inviate al decodificatore, che memorizza le n uscite corrispondenti ad ogni sequenza di n forme d onda binarie e costruisce 2 k variabili di decisione. Con la strategia di decisione ottima, la cascata (dem+dec) sceglie la sequenza trasmessa corrispondente alla sequenza di n bit che è più vicina (in termini di distanza euclidea) alla sequenza ricevuta. In questo modello la combinazione (mod+canale+dem) è equivalente a un canale con ingresso binario e uscita continua. 13

14 Caso n.2: unquantized soft-decision decoding Questo approccio presenta una maggiore affidabilità rispetto allo schema con decisione hard, in quanto il decodificatore può trarre vantaggio dalle informazioni aggiuntive contenute nei campioni non quantizzati che rappresentano ciascuna forma d onda binaria trasmessa. 14

15 Caso n.3: Quantized soft-decision decoding Demodulatore con uscita quantizzata a Q>2 livelli In questo caso la combinazione (mod+canale+demod) è equivalente a un canale discreto con ingresso binario e uscita a Q livelli Il vantaggio rispetto al caso analogico (non quantizzato) è che tutta l elaborazione può essere effettuato con circuiti digitali. Tale caso rappresenta una approssimazione della unquantized soft-decision decoding. 15

16 Decodifica hard e soft - Esempio ESEMPIO: Codice a ripetizione (1,3) Parole di codice: ( ), ( ) Modulatore: 1 +5 [ volt ], 0-5 [ volt ] Parola di codice da trasmettere: ( ) Trasmetto: voltricevo: volt (causa rumore) Confronto hard a minima distanza di Hamming: Decisioni hard (soglia 0 volt ) sui bit ricevuti: (2 bit errati) Confronto con ( ): ( ) ( ) = ( ), distanza = 1 Confronto con ( ): ( ) ( ) = ( ), distanza = 2 decido per ( ) ERRORE 16

17 Decodifica hard e soft - Esempio ESEMPIO: Codice a ripetizione (1,3) Parole di codice: ( ), ( ) Modulatore: 1 +5 [ volt ], 0-5 [ volt ] Parola di codice da trasmettere: ( ) Trasmetto: volt Ricevo: (causa rumore) Confronto soft a minima distanza Euclidea: Distanza da ( ): (-0.2- (-5)) 2 + (6.5-(-5)) 2 + (-0.4-(-5)) 2 = Distanza da ( ): (-0.2-(+5)) 2 + (6.5-(+5)) 2 + (-0.4-(+5)) 2 = decido per ( ) ESATTO Il confronto soft ha tenuto conto della ridotta probabilità che il valore +6.5 volt fosse originato da -5 volt coperti da rumore 17

18 Teorema fondamentale della codifica di canale (secondo teorema di Shannon) Se R c < C/H (X) il comportamento del sistema è dettato dal teorema fondamentale della codifica di canale, anche noto come secondo teorema di Shannon (1948), in base al quale: Data una sorgente binaria di informazione, con entropia H (X) bit/simbolo, ed un canale discreto e senza memoria, con capacità C, esiste un codice con frequenza R c = k/n tale che: P w (e) < 2 - n E(R), posto R = R c H (X) dove E(R) è una funzione reale, convessa, decrescente, non negativa di R per 0 R C, detta funzione esponente d errore 18

19 Funzione esponente d errore La funzione esponente d errore E(R) si misura in bit per simbolo codificato ed è tipica del canale assegnato, ovvero dipende solo dalle probabilità di transizione del canale E(R) Andamento tipico della funzione E(R) 0 C R 19

20 Aspetti progettuali Sorgente con entropia H (X) bit/simbolo Canale con capacità C bit/simbolo Codice di canale con frequenza R c = k/n Probabilità di errore dopo la decodifica di canale: P w (e) Sulla base della espressione: P w (e) < 2 -ne(r) si possono intraprendere tre diverse azioni per migliorare le prestazioni di un sistema di comunicazione (collegamento) numerico 20

21 1) Diminuire R riducendo R c =k/n Significa aumentare la ridondanza del codice e, per una data frequenza di emissione della sorgente, usare il canale più spesso E necessario un canale con banda più larga Spostandosi da R 1 a R 2, E(R) aumenta, dunque il bound 2 -ne(r) diminuisce (vantaggio per P w (e)<2 -ne(r) ) E(R) Aspetti progettuali E(R 2 ) Incremento del valore di E(R) riducendo R c =k/n E(R 1 ) 0 R 2 R 1 C R 21

22 2) Aumentare la capacità di canale C aumentando il rapporto segnale-rumore sul canale Serve una maggiore potenza in trasmissione Il punto operativo si muove dalla funzione E 1 (R) alla nuova funzione E 2 (R), pertanto diminuendo 2 -ne(r) E(R) Aspetti progettuali E 2 (R) Incremento del valore di E(R) aumentando C E 1 (R) 0 R C 1 C 2 R 22

23 Aspetti progettuali 3) Aumentare n, mantenendo il rapporto R c = k/n costante L approccio non richiede alcun aumento delle banda e/o del rapporto segnale/rumore del canale (rimedi classici) Consente di migliorare le prestazioni del collegamento semplicemente aumentando la lunghezza delle code word Ciò costituisce uno dei maggiori risultati della teoria di Shannon Il prezzo da pagare è la maggiore complessità della coppia codec ed un ritardo più lungo nella ricostruzione della sequenza decodificata 23

24 Classificazione dei codici Codici di canale Codici a blocchi Codici ad albero Codici lineari Codici non lineari Codici lineari (convoluzionali) Codici non lineari Codici ciclici TCM Turbo codici 24

25 Codici a blocchi In un codice a blocchi, il data stream è segmentato in vettori di k bit detti dataword e viene posto in ingresso al codificatore il quale fornisce in uscita un vettore di n bit detto codeword. Quindi in un codice a blocchi (n,k) le dataword consistono in k bit e le codeword in n bit. Codice di canale: è l insieme delle 2 k n-ple di bit, le codeword x Codificatore: è il dispositivo che effettua la codifica e cioè l associazione tra dataword e codeword. 25

26 Codici a blocchi Il codice (n,k) è a blocchi quando il codificatore è senza memoria, cioè quando agli stessi k bit della dataword corrispondono sempre gli stessi n bit della codeword Ogni dataword (blocco) viene codificata indipendentemente senza interazioni con le dataword precedenti o successive Si considerano codici binari, per i quali sia dataword che codeword sono formate da digit binari 0 e 1 Il concetto è estendibile a codici a q livelli: un caso importante è q = 2 b, perché q ammette una rappresentazione binaria a b bit e il codice (n,k) di elementi a q livelli è equivalente ad un codice binario (nb,kb) 26

27 Codici ad albero Quando la corrispondenza tra dataword e codeword ha memoria, cioè gli n bit della codeword non dipendono solo dai k bit della dataword, ma anche da alcune dataword precedenti, il codice viene detto ad albero. Spesso in questo caso conviene riferirsi a data stream infinitamente lunghi ed a code stream, o sequenze, che iniziano al tempo zero e continuano indefinitamente nel futuro. Un codice ad albero suddivide il data stream in segmenti, detti data frame, ciascuna delle quali composta di k 0 data bit, con k 0 (generalmente) un piccolo intero. Il codificatore è una macchina a stati finiti che mantiene una certa memoria delle data frame precedenti: nel caso più semplice memorizza le m data frame più recenti inviate. 27

28 Una code frame consiste di n 0 bit, calcolati dagli mk 0 data bit delle m data frame memorizzate nel codificatore e dai k 0 bit della data frame entrante. Gli n 0 bit sono inviati al canale quando i nuovi k 0 data bit entrano nel codificatore. Per l i-esima code frame 1 2 k 0 Data frame i-esima entrante Codici ad albero 1 2 k k k 0 Calcolo degli n 0 bit della code frame (i-1)-esima data frame (i-2)-esima data frame (i-m)-esima data frame i-esima code frame 1 2 n 0 28

29 Codici lineari e non lineari Codice lineare L insieme delle codeword (ovvero code stream per i codici ad albero) è chiuso per la somma modulo 2, ovvero: considerate due qualsiasi codeword, la loro somma modulo 2 è ancora una codeword ciò implica che la parola di tutti zeri è una codeword Codice non lineare In caso di non validità della proprietà precedente 29

30 Codici sistematici Il Codificatore si dice sistematico quando i primi k bit di ogni codeword coincidono con i k bit della dataword. A volte si parla di sistematicità del codice, anziché del codificatore: tuttavia, dal momento che la proprietà riguarda il mapping delle dataword nelle codeword, è propria del codificatore. 30

31 Codici a rivelazione e/o correzione d errore In accordo a come il sistema fa uso delle capacità del codice, si distingue tra: Codici a rivelazione d errore e Codici a correzione d errore Questa distinzione non riguarda i codici ma piuttosto le strategie seguite dal sistema di co-decodificazione 31

32 Rivelazione d errore Il decodificatore osserva la sequenza ricevuta all uscita del demodulatore/decisore, e rileva se sono avvenuti errori o meno Con riferimento alla disuguaglianza di Fano: H(X Y) H(e) + P(e)log(N-1) si cerca di eliminare l incertezza corrispondente al termine H(e) 32

33 Rivelazione d errore e Automatic Repeat request - ARQ La rivelazione d errore è utilizzata per realizzare uno di due possibili schemi: Nel monitoraggio dell errore (error monitoring), il decodificatore fornisce all utente una indicazione continua sulla qualità della sequenza ricevuta, in modo che si possa scartare la sequenza se l affidabilità diviene troppo bassa Nella richiesta di ripetizione (ARQ, Automatic Repeat request) si chiede al trasmettitore di ripetere le trasmissioni fallite e, dunque, deve essere disponibile un canale di ritorno (feedback) dal ricevitore al trasmettitore 33

34 Correzione d errore e Forward Error Correction - FEC Il decodificatore tenta di ripristinare la corretta sequenza trasmessa quando vengono rilevati errori nella sequenza ricevuta Con riferimento alla disuguaglianza di Fano: H(X Y) H(e) + P(e)log(N-1) si cerca di rimuovere anche l incertezza corrispondente al termine: P(e)log(N-1) A parità di codice la Forward Error Correction (FEC) richiede algoritmi di decodifica più complessi rispetto alla rivelazione d errore con ARQ 34

35 Confronto tra ARQ e FEC La scelta dipende dalla particolare applicazione e dalla complessità del sistema di trasmissione considerato Lo schema ARQ è usualmente impiegato nelle comunicazioni tra computer, essendo disponibile un canale di trasmissione a due vie insieme a dispositivi con grande memoria che memorizzano le informazioni entranti mentre effettuano, su richiesta, la procedura di trasmissione Lo schema FEC si adotta quando si vuole proteggere l informazione in un canale a una via oppure quando è richiesto il tempo reale oppure ritardi controllati (es. trasmissioni vocali digitali interattive, deep-space communications) 35