1) Codici convoluzionali. 2) Circuito codificatore. 3) Diagramma a stati e a traliccio. 4) Distanza libera. 5) Algoritmo di Viterbi

Transcript

1 Argomenti della Lezione 1) Codici convoluzionali 2) Circuito codificatore 3) Diagramma a stati e a traliccio 4) Distanza libera 5) Algoritmo di Viterbi 1

2 Codici convoluzionali I codici convoluzionali sono codici ad albero di tipo lineare; sono quindi codici con memoria a differenza dei codici a blocco. Nei codici convoluzionali, ogni blocco di k 0 bit viene mappato in un blocco di n 0 bit tramite una trasformazione lineare tempo invariante (LTI) che dipende dagli ultimi Nk 0 bit. N viene detto lunghezza di vincolo. Il blocco di k 0 bit in ingresso viene detto dataframe, mentre il blocco di n 0 bit in uscita viene detto codeframe. Il rapporto R c k 0 /n 0 viene detto frequenza di codifica mentre il parametro N viene detto lunghezza di vincolo. Un codice convoluzionale è sistematico se i primi k 0 bit del codeframe sono uguali ai k 0 bit del dataframe. 2

3 Codificatore convoluzionale La memoria del codificatore è di ν (N-1)k 0 bit. Nella codifica del primo dataframe tutti i registri sono azzerati. Il codificatore è modellizzabile come una macchina a stati o come filtro FIR. 3

4 Generatori Per specificare un codice convoluzionale (n 0,k 0,N) si possono utilizzare n 0 k 0 vettori detti sequenze generatrici (o generatori) che corrispondono alla risposta all impulso in ingresso al codificatore [ ] posto sul j-esimo bit di ingresso tra i k 0 bit quando i restanti k 0-1 bit sono posti a zero. I generatori relativi all uscita i-esima sono indicati con: g 1 2 g, g,..., g N ij ij ij ij ], i 1,..., n0 j [ 1,..., k 0 (t) u j Sia il j-esimo ingresso al tempo t (j1,2,,k 0 ) (t) x i Sia lo i-esimo ingresso al tempo t (i1,2,,n 0 ) x k0 N ( t) l ( t l) i g iju j i j 1 l 1 1,2,..., n 0 4

5 Generatori Si consideri il caso in cui k 0 1. Sia l ingresso che l uscita sono sequenze semi infinite di simboli binari. Sia [u 1, u 2, u 3, ] il data stream in ingresso e sia [x 1, x 2, x 3, ] il code stream in uscita. Si hanno n 0 generatori: g 1 2 [ g, g,..., g N i i i i ], i 1,..., n0 g l i Il valore del coefficiente è pari a 1 se lo stadio l-esimo del registro di ingresso è connesso al sommatore la cui uscita è connessa allo stadio i-esimo del registro di uscita. La sequenza in uscita allo i-esimo sommatore è data dalla convoluzione: x N ( t) l ( t l) i g iu i l 1 1,2,..., n 0 5

6 2 Diagramma a stati ν 2 k 0 ( N 1) E un grafo composto da nodi corrispondenti agli stati del codificatore. Il diagramma a stati permette di modellizzare completamente il comportamento di un determinato dice convoluzionale. Ogni stato è rappresentato dai i bit contenuti dai registri che, insieme ai k 0 bit in ingresso determinano gli n 0 bit in uscita dal codificatore. Ogni nodo è connesso ad altri nodi mediante degli archi. Ogni arco è associato all ingresso di un dataframe diverso. 2 k 0 Ogni nodo ha rami uscenti. Ad ogni transizione di stato viene associata l emissione di n 0 bit. 6

7 Diagramma a traliccio Il diagramma a traliccio (o trellis) è una estensione del diagramma a stati poiché contiene anche l indice temporale i. Per ogni indice temporale i, il diagramma a traliccio contiene i stati del 2 ν 2 k 0 ( N 1) codificatore. Gli stati relativi all indice temporale i sono connessi agli stati relativi all indice temporale i+1 tramite degli archi che corrispondono a delle transizioni di stato. Il diagramma a traliccio è uno strumento utile in fase di decodifica. 7

8 Esempio 1 Si consideri il codice convoluzionale definito dal seguente codificatore: n 0 2, k 0 1, N3 u i u i-1 u i-2 x 1 x 2 g 1 [0] g 2 [0] 8

9 Esempio 1 - continua x 1 u i + u i-1 x 2 u i-1 + u i-2 Stato u i-1 u i-2 x 1 x 2 (u i 0) x 1 x 2 (u i 1) a b 1 0 c 0 1 d u i 1 b u i 0 00 a d 00 Output x 1 x 2 c 9

10 Esempio 1 - continua a b c d u i 1 u i 0

11 Esempio 2 Si consideri il codice convoluzionale definito dal seguente codificatore: n 0 3, k 0 1, N3 x 1 x 2 x 3 g 1 [0] g 2 [0] g 3 [1]

12 Esempio 2 x 1 u i x 2 u i + u i-1 x 3 u i + u i-1 + u i-2 Stato u i-1 u i-2 x 1 x 2 x 3 (u i 0) x 1 x 2 x 3 (u i 1) S S S S u i 1 u i 0 12

13 Esempio 2 13

14 Distanza colonna Come per i codici a blocchi, le capacità di rivelazione e correzione degli errori dipendono dalle distanze tra le sequenze codificate. Si consideri la distanza tra due sequenze codificate fino alla profondità i del trellis, le quali divergono alla prima diramazione. Distanza colonna d c (i): minima distanza di Hamming tra tutte le coppie di sequenze di questo tipo. Per il calcolo di d c (i) si possono considerare le distanze rispetto alla sequenza di tutti zeri: la distanza colonna è allora il minimo peso delle sequenze di codice che differiscono alla prima ramificazione dalla sequenza di tutti zeri. La distanza colonna è funzione non decrescente della profondità i 14

15 Distanza minima e distanza libera Per i N (profondità lunghezza di vincolo) si ha la distanza minima del codice: Per i si ha la distanza libera del codice: d d min f d c lim d i ( N) c ( i) ESEMPIO: codice (3,1,3), si calcola: i d c (i) d d min f 15

16 Distanza minima e distanza libera La distanza libera è la distanza minima di Hamming tra sequenze codificate infinitamente lunghe Viene calcolata individuando sul trellis le sequenze che prima si staccano dalla sequenza di tutti zeri, e poi vi riconfluiscono: d f è il minimo peso di questo insieme di sequenze codificate Assegnati il rapporto di codifica R c e la lunghezza di vincolo N, il codice migliore è quello con la massima distanza libera 16

17 Algoritmo di decodifica di Viterbi 17

18 Decodifica a massima verosimiglianza (ML) Come per i codici a blocchi, il criterio ML (maximum likelihood - massima verosimiglianza) indica di scegliere la sequenza di codice a distanza minima dalla sequenza ricevuta. Poiché la possibile sequenza codificata è un cammino nel trellis del codice, il decodificatore sceglie il cammino a distanza minima dalla sequenza ricevuta. La metrica di distanza utilizzata è la distanza di Hamming nel caso di decodifica hard e la distanza euclidea nel caso di decodifica soft. 18

19 Decodifica a massima verosimiglianza (ML) La scelta del cammino minimo viene eseguita efficientemente tramite l algoritmo di Viterbi (VA, Viterbi algorithm) proposto da A.J. Viterbi nel 1967 e poi valorizzato anche da J.K. Omura (1969) e D. Forney (1973) Il VA viene descritto qui nel seguito 19

20 Algoritmo di Viterbi Si consideri per semplicità il caso in cui k 0 1 Indichiamo con: j S i, j 1,2,...,2 N 1 il nodo corrispondente al generico stato j-esimo del traliccio all istante i-esimo. Indichiamo con: λ( S j i, S l N 1 N 1 i+ 1), j 1,2,...,2, l 1,2,..., 2 la metrica del ramo (branch metric) e cioè la distanza (di Hamming o euclidea) tra gli n 0 bit ricevuti durante il tempo i-esimo e gli n 0 bit emessi con la transizione dallo stato j-esimo allo stato l-esimo: j l Si Si+ 1 20

21 Algoritmo di Viterbi La metrica del ramo è una metrica additiva, infatti ogni percorso P con M transizioni: j0 j1 j P S M i Si Si+ M è caratterizzato da una lunghezza del cammino (path length o path metric) definita come la somma delle metriche di ramo calcolate per ogni transizione di stato del cammino: M 1 k 0 jk jk+ 1 ( P) λ( Si+ k, Si+ k+ 1) 21

22 Algoritmo di Viterbi Per ciascun nodo (stato) ad un particolare istante i, possono esistere più percorsi che vi giungono, ma ogni percorso sarà caratterizzato da una diversa lunghezza del cammino. j j Il percorso sopravvivente ( ) per un determinato stato è P S i definito come il percorso che giunge in quello stato con la minore lunghezza del cammino rispetto a tutti i percorsi che giungono in quello stato. Indichiamo con: j j N 1 ) P( S ), j 1,2,...,2 i la metrica di stato e cioè la lunghezza del cammino relativo al j N 1 percorso sopravvivente P( S i ), j 1,2,...,2 per lo stato i S i j S i 22

23 Inizializzazione: sia i0 e Algoritmo di Viterbi Passi dell algoritmo j N 1 ) 0, j 1,2,..., 0 2 Si assuma che lo stato iniziale sia lo stato di tutti zeri e che dopo M passi lo stato finale sia ancora lo stato di tutti zeri (reset dei registri). Sia ii+1 e si calcolino le 2 N-1 metriche di ramo λ( S j l N 1 i 1, Si ), j 1,2,..., 2 j N 1 Per ogni stato S i, j 1,2,...,2 si calcolino tutte le lunghezze dei j percorsi che giungono in, si memorizzi il percorso j sopravvivente i ) e la nuova metrica di stato. j j N 1 i ) P( Si ), j 1,2,...,2 Si ripetano i passi precedenti finchè i M, mentre se im si P i S i decodifichi la sequenza ricevuta come la sequenza associata alle transizioni di stato dell unico percorso sopravvivente che porta allo stato finale. 23

24 Algoritmo di Viterbi - Esempio Si consideri il codice convoluzionale (2,1,3) con diagramma a stati e a traliccio rappresentati in Figura. Si utilizzi l algoritmo di Viterbi con decisione Hard per decodificare la sequenza ricevuta y[ ] con 9 passi (di cui 2 per il reset dei registri). Stato u i-1 u i-2 x 1 x 2 (u i 0) x 1 x 2 (u i 1) A B C 1 0 x 1 x 2 D 1 1 A C B D

25 Algoritmo di Viterbi - Esempio i1 y [ ] A C B 00 A A ) P S ) 2 1 ( 1 P ) C C ) S 0 1 ( 1 D i0 i1 25

26 Algoritmo di Viterbi - Esempio i2 y [ ] A C B D i0 i1 i2 A A ) P S ) 3 2 ( 2 P ) C C ) S 3 2 ( 2 B B ) P S ) 2 2 ( 2 D D ) P S ) 0 2 ( 2 26

27 Algoritmo di Viterbi - Esempio i3 A y [ ] C 00 3 B S 2 D 0 S i0 i1 i2 i3 A ) C ) ( B ) ( D ) I percorsi sopravviventi sono indicati in nero 27

28 Algoritmo di Viterbi - Esempio i4 y [ ] A C 00 B D i0 i1 i i3 1 i4 A ) C ) B ) D ) Oss: se due percorsi portano allo stesso nodo con la stessa lunghezza di cammino, si ha libertà di scelta su quale dei due percorsi scegliere come cammino sopravvivente. 28

29 Algoritmo di Viterbi - Esempio i5 y [ ] A C B D i0 i1 i i3 2 i4 i5 A ) C ) B ) D )

30 Algoritmo di Viterbi - Esempio i6 y [ ] A C B D i0 i1 i i3 1 3 i4 i i6 A ) C ) B ) D )

31 Algoritmo di Viterbi - Esempio i7 y [ ] A C B D i0 i1 i i3 i4 i i6 i7 A ) C ) B ) D )

32 Algoritmo di Viterbi - Esempio i8 y [ ] A C B D i0 i1 i i3 i4 i i6 i7 i8 A 8 ) C 8 ) B 8 ) D )

33 Algoritmo di Viterbi - Esempio i9 y [ ] A C B D i0 i1 i i3 i4 i i6 i7 i8 i9 L unico percorso sopravvivente è indicato in nero 33

34 Algoritmo di Viterbi - Esempio Sequenza decodificata y [ ] A C B D 00 i0 i1 i2 i3 i4 i5 i6 i7 i8 i9 y [ ] Sequenze decodificate x [ 00 ] u [ ] Bit per il reset dei registri 34

35 Complessità del VA Per un codice convoluzionale (n 0, k 0, N), ad ogni passo del trellis: si hanno 2 k 0(N-1) stati, e quindi occorre memorizzare 2 k 0(N-1) cammini sopravviventi e 2 k 0(N-1) metriche si hanno 2 k 0 cammini che raggiungono ciascuno stato, e quindi occorre calcolare 2 k 0 metriche per ogni stato e scegliere la minima tra esse, per selezionare il cammino sopravvivente e scartare gli altri La complessità dell algoritmo di Viterbi cresce esponenzialmente con k 0 e con N applicazioni limitate a valori di k 0, N dell ordine di 35

36 Ritardo di decisione nel VA Decodifica ottimale: si attende l arrivo di tutta la sequenza, dopodiché viene decodificata l intera sequenza Per sequenze molto lunghe in tal modo si ha: 1. Eccessivo ritardo nella decodifica 2. Necessità di una elevata memoria e quindi viene troncata la profondità del traliccio operando con un ritardo di decisione D costante, tipicamente D 5N Sperimentalmente, lunghezze superiori non consentono apprezzabili miglioramenti e con tale ritardo di decisione in genere tutti i cammini si fondono in quello a metrica minima 36

37 Errori a burst nel VA Se in punto viene scelto un cammino non corretto, dopo qualche passo, in generale, esso confluisce nuovamente nel cammino corretto Ciò genera l insorgere di errori consecutivi, del tipo a burst La decodifica a decisione soft ( decodifica soft ) viene realizzata molto semplicemente nel VA, sostituendo la distanza di Hamming con la distanza Euclidea nel calcolo delle metriche dei cammini 37

38 Prestazioni del decodificatore di Viterbi 38

39 Prestazioni dei codici convoluzionali Prestazioni dei codici convoluzionali con: rapporto 1/2 e 1/3 decodifica di Viterbi decisione hard e soft Viterbi con decodifica hard: distanza di Hamming Viterbi con decodifica soft: distanza Euclidea Le prestazioni con ingresso soft sono migliori 39

40 Prestazioni dei codici convoluzionali Prestazioni dei codici convoluzionali di rapporto 1/2, decodifica di Viterbi a decisione soft Le prestazioni migliorano se si aumenta la lunghezza di vincolo N 40