Tecniche di protezione dell informazione

Transcript

1 Tecniche di protezione dell informazione 1

2 Contesto trasmissivo u T st () rt () u R Sorgente sequenze binarie informaz. Rb TX CANALE RX Rb ut st () rt () u R R b Sequenze binarie di informazione trasmesse Segnale trasmesso Segnale ricevuto Sequenze binarie di informazione ricevute Bit rate [bit/s] (velocità seq. informazione trasmesse) 4

3 Sequenze binarie di informazione trasmesse modello matematico Alfabeto binario Z 2 = {0,1} Struttura di gruppo Z 2, Sequenze binarie di informazione: u = ( u, u,..., u,...) i N u Z T 0 1 i i 2 5

4 Sequenze binarie di informazione trasmesse modello statistico Sequenze binarie random ideali: processo stocastico tempo discreto e spazio discreto {0,1} 1. Bit statisticamente indipendenti P(u i u j )=P(u i ) i j 2. Stazionarie ed equiprobabili P(u i = 0) = P(u i = 1)=0.5 i 6

5 Sequenze binarie di informazione ricevute u R = ( v0, v1,..., v i,...) Poiché rt () st () Si può avere ur u T = ( u 0, u1,..., u i,...) 28

6 Probabilità di errore Probabilità di errore sul bit (Bit Error Rate, BER) P () e = P( u v ) b i i Interpretazione statistica P() e = b numero bit ricevuti errati numero bit ricevuti (Se i bit di informazione sono raggruppati in pacchetti, interessa anche la Packet Error Rate. In questo corso calcoleremo anche la Frame Error Rate. ) 29

7 BER 1E-1E-101E-91E-81E-71E-61E-51E-41E E-141E-131E-12 Eb/N0[dB] Probabilità di errore In questo corso valuteremo l andamento della probabilità di errore (BER/FER) in funzione del rapporto segnale-disturbo (E b /N 0 ) Esempio: Ber per costellazione 2-PSK non codificata su canale Gaussiano bianco: 1 E Pb () e = erfc 2 N b 0 BER BER E-3 1E-4 1E-5 1E-6 1E-7 1E-8 1E-9 1E-10 1E-11 1E-12 1E-13 1E Eb/N0 [db] E b N S/N [db] 0 [ db] Per sistemi semplici è possibile una valutazione analitica esatta. Per sistemi complessi si deve ricorrere ad approssimazioni o alla simulazione. 30

8 Ritardo Intervallo di tempo in secondi D tra l istante in cui un bit di informazione entra nel TX e l istante in cui esce dal RX. (le tecniche di codifica aumenteranno il ritardo, alcune in modo consistente, altre no) 33

9 Sul teorema di Shannon Teorema di Shannon per AWGN Dato un canale Gaussiano bianco di banda B, è possibile trasmettere un traffico con data-rate R b con probabilità di errore piccola a piacere purché R b C- ε, dove C è la capacità del canale, data dalla: C = Blog2 1+ S N 36

10 Sul teorema di Shannon Si può riformulare così: Teorema di Shannon per AWGN Dato un canale Gaussiano bianco, esiste un sistema codificato (modulazione + codice) che realizza un efficienza spettrale η = R b B e che consegue probabilità di errore piccola a piacere con rapporto segnaledisturbo E log [db] η b = N0 SH 10 η 37

11 Sul teorema di Shannon E log [db] η b = N0 SH 10 η Shannon BER = 1e-6 7 eta [bps/hz] QAM PSK 2-PSK Eb/N0 [db] 42

12 Codici a blocco 1

13 Codici a blocco Ci concentriamo su codici binari (sequenze di codice =sequenze binarie) In particolare iniziamo dai codici a blocco Un codice a blocco è identificato come C(n,k) k= lunghezza vettore binario di informazione n = lunghezza vettore binario di codice 2

14 Codici a blocco Codice a blocco C(n,k): funzionamento 1. La sequenza binaria di informazione viene partizionata in vettori (o blocchi, o frame) di k bit ciascuno. 2. Ad ogni vettore di informazione viene fatto corrispondere un vettore di codice di n bit. Questo vettore di codice dipende solo dal corrispondente vettore di informazione. 3. La sequenza binaria codificata viene trasmessa sul canale. sequenza binaria di informazione k= n= sequenza binaria codificata Modulatore, canale 3

15 Conseguenze della codifica sulla velocità delle sequenze binarie Nel contesto trasmissivo individuato nella scorsa lezione, la sequenza binaria di informazione ha velocità R b Un vettore di k bit di informazione ha quindi durata kt b secondi Il corrispondente vettore di codice (n bit) deve avere la stessa durata. Di conseguenza, la velocità della sequenza codificata deve passare da R b a n R R = R = k R * b b b c dove R c = k n Rate del codice 4

16 Poiché R c k = 1 n Si ha sempre R * b R b La velocità di trasmissione dei bit aumenta 5

17 Conseguenze della codifica sulla banda del segnale trasmesso Supponiamo di utilizzare una costellazione 2-PSK con filtri ideali, senza codice La sua efficienza spettrale vale 1 bps/hz Se le sequenze binarie di informazione hanno bit-rate R b, la banda occupata vale B= R b Supponiamo di utilizzare la stessa costellazione 2-PSK con filtri ideali, ma con un codice C(n,k) La velocità dei bit trasmessi diventa R b* = R b / R c La banda occupata diventa B * = R b * Si ha quindi B = Rc * B B La banda occupata aumenta 6

18 Conseguenze della codifica sulla banda del segnale trasmesso Questo discorso ha validità generale, per ogni tipo di modulazione. Supponiamo di utilizzare una costellazione M, di efficienza η M, senza codice Se le sequenze binarie di informazione hanno bit-rate R b, la banda occupata vale B= R b / η M Supponiamo di utilizzare la stessa costellazione, ma con un codice C(n,k) La velocità dei bit trasmessi diventa R b* = R b / R c La banda occupata diventa B * = R b* / η M Si ha ancora B = Rc * B B 7

19 Conseguenze della codifica sulla banda del segnale trasmesso L utilizzo di un codice C(n,k) aumenta quindi la banda occupata. L efficienza spettrale complessiva vale: Sorgente sequenze binarie informaz. u T codice Cnk (, ) TX modulatore M st () R b * R b * B * η R R R = = = B * b b b * * * Rb B R η c M 8

20 Conseguenze della codifica sulla banda del segnale trasmesso E quindi, come ci aspettavamo visto che è aumentata la banda: * η η M Di conseguenza, se si lascia inalterata la modulazione, l introduzione di un codice diminuisce l efficienza spettrale del sistema. 9

21 Sul ritardo introdotto da un codificatore In pratica si sceglie spesso di introdurre per il codificatore un ritardo D TX in trasmissione pari ad un frame, ovvero k bit di informazione, ovvero k/r b secondi (= n/rb* secondi) k = 4 u[1] T u[2] T u[3] T n = 8 D c[1] c[2] c[3] 10

22 Codici lineari Questi sono definiti mediante un applicazione lineare tra gli spazi di Hamming di dimensione k e n 11

23 Spazio di Hamming Lo spazio di Hamming H k è l insieme di tutti i vettori binari con k componenti: H = { v= ( u,..., u,..., u ) u Z } H k contiene 2 k vettori binari k 1 i k i 2 H 1 = { (0) (1) } H 2 = { (00) (01) (10) (11) } H 3 = { (000) (001) (010) (011) (100) (101) (110) (111) } 12

24 Spazio di Hamming H = { v= ( u,..., u,..., u ) u Z } k 1 i k i 2 è definita una somma tra vettori di H k ottenuta estendendo componente per componente la somma su Z v = ( u,..., u,..., u ) v = ( u,..., u,..., u ) i 1k i 2k v + v = ( u + u,..., u + u,..., u + u ) i 2i 1k 2k 13

25 Spazio di Hamming H = { v= ( u,..., u,..., u ) u Z } k 1 i k i 2 è definita una moltiplicazione per un elemento di GF(2) ottenuta estendendo componente per componente la:

26 Notazioni Vettore di informazione Vettore (parola) di codice v= ( u,..., u ) H 1 c= ( c,..., c ) H 1 k n k n 16

27 Codificatore Funzione che associa ad ogni vettore di informazione u H k una parola di codice c C e H C H : k n v c 17

28 Proprietà codificatore e H C H : k n v c 1. Lo scegliamo sistematico (I primi k bit della parola di codice coincidono con il vettore di informazione) ev () = ( v p) k bit di inf. r=n-k bit di parità (Scelta importante. Semplifica le operazioni in codifica e in ricezione, dove diventa facilissimo risalire dalla parola di codice decodificata al vettore di informazione.) 18

29 Proprietà codificatore e H C H : k n v c 2. Lo scegliamo lineare: ev ( + v) = ev ( ) + ev ( ) (Scelta importante. Serve per semplificare le operazioni di codifica. Nota: si dimostra che la classe dei codificatori lineari soddisfa il teorema di Shannon.) 19

30 Codificatore lineare e sistematico Vettore di informazione Vettore (parola) di codice v= ( u,..., u ) H 1 c= ( c,..., c ) H 1 k n k n Codificatore sistematico e lineare: Sistematico: i primi k bit di c coincidono con il vettore di informazione u Lineare: I restanti (r=n-k) bit di c sono essere ottenuti come combinazione lineare dei bit di u a coefficienti in Z 2 (equazioni di parità) Si noti che il codificatore risulta iniettivo: vettori di informazione diversi devono generare parole di codice diverse (serve in ricezione per risalire dalla parola di codice decodificata al frame di informazione che l ha generata.) 20

31 Codificatore lineare e sistematico c1 = u1. ck = uk c = a u a u. c = a u a u k k k k+ r r1 1 rk k aij Z 2 21

32 Codificatore lineare e sistematico c1 = u1. ck = uk c = a u a u. c = a u a u k k k k+ r r1 1 rk k Si può scrivere in forma matriciale come: c = ug u = ( u1,..., u k ) = 1 c ( c,..., c n ) 22

33 Matrice generatrice G c = ug Per costruire la matrice G: Il generico elemento g ij corrisponde al bit di informazione u i e al bit di codice c j g ij = 1 se u i compare nell equazione di c j (=0 altrimenti) 23

34 Proprietà del codice Dato un codificatore lineare e sistematico, le parole di codice sono associate ai vettori di informazione dalla c = ug Quali sono le proprietà del codice C che discendono da questa scelta? 24

35 Proprietà del codice c = ug u copre tutto H k (Discende dall ipotesi di sequenze binarie di informazione random ideali: tutti i vettori di H k sono ammissibili. Tra l altro dalla stessa ipotesi segue che i frame di informazione sono anche statisticamente indipendenti ed equiprobabili.) Il codificatore è un applicazione lineare tra H k e H n Codice C = Immagine dell applicazione=sottospazio vettoriale di H n 25

36 Proprietà del codice C Codice C = Immagine dell applicazione c = ug C = { c= ug u H } k E un sottospazio vettoriale di H n, quindi in particolare ha una struttura di gruppo: 0 C c, c C c + c C

37 Esempio 1: Codice a ripetizione C(3,1) k = 1 u = ( u ) n= 3 c= ( c, c, c ) c = u c = u c = u G = [ 1 1 1] C = {000,111} e: H H R * b D R b = = TX R = c 3R b 1 [] s R b 29

38 Esempio 1: Codice a ripetizione C(3,1) G = [ 1 1 1] C = { c = 000, c = 111} 0 1 Se riceviamo y = (101) Calcoliamo d (, ) 2 H y c 0 = d (, ) 1 H y c 1 = E scegliamo cr = c 1 30

39 Ritardo di decoficica Come i circuiti di codifica, anche i circuiti di decodifica introducono un ritardo. Questo sarà pari ad almeno un blocco perché nessuna decisione può essere presa prima di aver acquisito tutti i bit del vettore ricevuto y. Inoltre, una volta che y è completamente noto l algoritmo di decodifica usato per scegliere c R può essere complicato, ed introdurre ulteriore ritardo di elaborazione. Valori tipici del ritardo introdotto in decodifica da chip commerciali sono dell ordine di due blocchi (uno intrinseco per acquisire y e uno di elaborazione): oppure D RX = 2k [bit informazione] = 2k/R [s] D RX = 2n [bit di codice] = 2n/R * [s] 29

40 Ritardo di decoficica Di conseguenza stimeremo il ritardo complessivo introdotto nella catenza di trasmissione (TX + RX) da un codice a blocco nell ordine di 3 blocchi: oppure D TOT = D TX + D RX = 3k [bit informazione] = 3k/R [s] D TOT = D TX + D RX = 3n [bit di codice] = 3n/R * [s] 30

41 Trade-off grandezze Un codice a blocco C(n,k), applicato ad una costellazione 2-PSK consente di migliorare le prestazioni del sistema in termini di BER in funzione del rapporto E b /N 0 (ovvero probabilità di errore in funzione della potenza ricevuta). (Nota: di solito questo avviene per valori di BER sotto una BER di incrocio, al di sopra della quale il sistema senza codifica ha prestazioni migliori) Questo miglioramento avviene a scapito di un aumento dell occupazione di banda del ritardo della complessità (codificatore in TX + decodificatore in RX) 31

42 Interleaver 1

43 Interleaver Interleaver = dispositivo che permuta i bit prima della trasmissione sul canale. È utilizzato per aumentare la capacità correttiva di uno schema di codifica in presenza di errori a burst. Supponiamo che le condizioni del canale siano molto deteriorate per un intervallo temporale pari a l bit consecutivi: tutti gli l bit trasmessi hanno una probabilità molto più elevata di essere ricevuti come errati. Consideriamo il caso limite (contro il quale vogliamo difenderci) dove tutti gli l bit trasmessi in quell intervallo vengono ricevuti errati. Definiamo burst di errori di lunghezza l una sequenza di l bit errati consecutivi e = ( ) l 2

44 Interleaver Consideriamo un codice a blocco C(n,k) con capacità correttiva t. Se in un blocco si verifica un numero di errori minore o uguale a t, in ricezione la parola di codice viene scelta correttamente. Se invece si verifica un burst di lunghezza l>t all interno di una parola di codice trasmessa sul canale, il codice non riesce a correggere gli errori. Se però riuscissimo a distribuire gli l bit errati su più parole di codice e a fare in modo che ad ogni parola non capitino più di t errori, tutti gli errori verrebbero corretti. 3

45 Interleaver Caso più semplice: interleaver riga per colonna: matrice di n righe e n colonne. Le parole di codice (n bit ciascuna) vengono scritte nella matrice per righe. Quando n parole hanno riempito la matrice, si leggono i bit per colonna e si trasmettono sul canale. Si noti che ora un blocco di n bit consecutivi trasmessi sul canale non corrisponde più ad una parola di codice, ma è ottenuto prendendo un bit da n parole di codice diverse. 4

46 Interleaver Dati n vettori di codice consecutivi da trasmettere, si riempie la matrice scrivendola per righe c c c c c T T T T T [1] [2] [...] [...] [ n] c c c n c c c n c c c n1 n2 nn 5

47 Interleaver Si legge la matrice per colonne e si ottengono i vettori c T di n bit che vengono trasmessi sul canale Nota: non sono vettori di codice! c c c n c c c n c c c n1 n2 nn c'[1] c'[2] c'[3] c'[4] c'[5] T T T T T 6

48 Interleaver I vettori c T vengono trasmessi sul canale; ad essi si somma il rumore e vengono ricevuti come vettori y c'[1] c'[2] c'[3] c'[4] c'[5] T T T T T Eventuale burst di errori l y '[1] y '[ 2 ] y '[3 ] y '[ 4 ] y '[5 ] 7

49 Interleaver In ricezione, si usa un deinterleaver costituito da una matrice di n righe e n colonne Dati n vettori y ricevuti consecutivi, si riempie la matrice scrivendola per righe y '[1] y '[2] y '[...] y '[...] y'[ n] y' y' y' n y' y' y' n y' y' y' n1 n2 nn 8

50 Interleaver Si legge la matrice per colonne e si ottengono i vettori ricevuti y di n bit che vengono inviati al decodificatore y' y' y' n y' y' y' n y' y' y' n1 n2 nn y[1] y[2] y[3] y[4] y[5] 9

51 Interleaver Di conseguenza, un eventuale burst di errori di distribuisce su n blocchi consecutivi y[1] y[2] y[3] y[4] y[5] 10

52 Interleaver Poiché il codice riesce a correggere fino a t errati per ogni blocco, questo sistema con interleaver riga per colonna n x n neutralizza un burst di lunghezza massima nt bit: Ogni blocco contiene t bit errati che vengono tutti corretti dal decodificatore y[1] y[2] y[3] y[4] y[5] 11

53 Interleaver: ritardo introdotto In trasmissione: Anche se potrebbe essere leggermente minore, diciamo che il ritardo introdotto è pari a n x n bit di codice (La matrice viene scritta per righe. Non posso iniziare a leggerla subito, ma devo aspettare ad iniziare in modo che ogni volta che leggo un bit da trasmettere questo sia già stato scritto. Usando una struttura a doppio buffer, il ritardo è pari ad una intera matrice.) In ricezione: stesso ritardo 12

54 Interleaver: ritardo introdotto Ritardo totale introdotto da un interleaver n x n nella catena di trasmissione oppure D I,TOT = D I,TX + D I,RX = 2n 2 [bit di codice] = 2n 2 /R * [s] D I,TOT = D I,TX + D I,RX = 2kn [bit di informazione] = 2kn/R [s] (il ritardo in TX è pari a n blocchi, ognuno contiene k bit di informazione; il ritardo in RX è uguale) 13

55 Interleaver Un interleaver aumenta la capacità del codice di resistere a burst di errori. Questo miglioramento avviene a scapito dell aumento del ritardo introdotto (e della complessità-memoria). Il ritardo causato da un interleaver può essere molto grande e non accettabile da applicazioni con requisiti stringenti di ritardo (ad esempio in alcuni apparati è opzionale, da inserire o disinserire a seconda delle necessità). Il ritardo può essere ridotto utilizzando, invece di una matrice n x n, una matrice più piccola. 14

56 Interleaver Esempio. Un interleaver riga per colonna con s righe e n colonne (il deinterleaver ha n righe e s colonne) distribuisce un burst di errori su s blocchi. La massima lunghezza di un burst annullato da questo sistema è pari a st bit. Il ritardo introdotto è pari a 2ns bit di codice. 15

57 Interleaver Abbiamo introdotto gli interleaver riga per colonna. In realtà un interleaver può essere implementato con una qualsiasi permutazione dei bit di codice da trasmettere (il deinterleaver userà la permutazione inversa). Per la protezione da errori a burst gli interleaver riga per colonna assicurano comunque la massima protezione. Per altre applicazioni (es. Turbo codici) gli interlevear riga per colonna non vanno bene si devono usare altre permutazioni. 16

58 la distanza minima di un codice È facile mostrare che esistono dei limiti alla massima d min che un codice C(n,k) può conseguire. Tra questi il più semplice è il seguente: dmin n k+ 1 che si spiega immediatamente pensando alla sistematicità del codificatore. (Es. I codici a ripetizione (n,1) soddisfano questo bound con il segno uguale.) (Es. I codici di Reed Solomon soddisfano il bound con il segno uguale.) 27

59 la distanza minima di un codice dmin n k+ 1 k Questa relazione mi suggerisce che, fissato il rate Rc = e quindi fissata l espansione di banda, posso aumentare la n distanza minima facendo crescere n dmin n(1 R c ) + 1 sfortunatamente, al crescere di n (e quindi di k visto che R c èfisso) crescono anche il ritardo (linearmente) e la complessità (esponenzialmente!). Di conseguenza, bisognerebbe avere una distanza minima grande perché così le prestazioni del codice sono migliori. Per averle bisogna avere n grande problemi di complessità ( e ritardo). 28

60 Codici Convoluzionali 1

61 Introduzione ai codici convoluzionali Sono codici binari C(n,k) Caratteristiche principali: Le parole di codice hanno lunghezza infinita k e n sono numeri piccoli Il codificatore ha memoria (gli n bit di codice non dipendono solo dai k bit di informazione corrispondenti ma anche da un certo numero di quelli precedenti) Esiste un algoritmo (Viterbi) che implementa la regola di decisione a minima distanza: (a) in modo efficiente (b) con la stessa complessità per decodifica hard e soft Introducono basso ritardo Usati negli standard GSM e UMTS 2

62 Codificatore convoluzionale C(n,k) u T sequenza di informazione (random ideale con velocità R b ) Viene partizionata in vettori di k bit ciascuno. Quindi si ha: u = u(0), u(1),..., u( i),... T dove u(i) = vettore di informazione di k bit ui ( ) = ( u,..., u) H 1 k k 3

63 Codificatore convoluzionale C(n,k) Il codificatore C(n,k) associa alla sequenza di informazione u T una sequenza di codice c T in questo modo: Ad ogni vettore di informazione u(i) di k bit viene fatto corrispondere un vettore di codice c(i) di n bit. Di conseguenza la sequenza di codice è del tipo c = c(0), c(1),..., c( i),... T dove c(i) = vettore di codice di n bit ci ( ) = ( c,..., c) H 1 n n 4

64 Codificatore con memoria Come viene generato il vettore di codice c(i)? ci ( ) = f( ui ( ), ui ( 1),..., ui ( N+ 1)) c(i) non dipende solo dal corrispondente vettore di informazione u(i) ma anche da un certo numero di vettori di informazione precedenti. In totale dipende da N vettori [ N = constraint length ] Il codificatore ha memoria 5

65 Codificatore lineare ci ( ) = f( ui ( ), ui ( 1),..., ui ( N+ 1)) Ci limitiamo a considerare codificatori lineari (i più usati in pratica): c(i) consta di n bit e dipende da (kn) bit di informazione: La combinazione lineare è caratterizzata da (nkn) coefficienti binari. 6

66 Codificatore lineare di un codice convoluzionale ci f ui ui ui N ( ) = ( ( ), ( Figura 1),..., 1 ( + 1)) u(i) u(i-1). u(i-n+1) K=2 N=3 a j ci () c 1 c 2 c 3 c(i) Ogni coefficiente a j della combinazione lineare f corrisponde ad un collegamento tra un bit di informazione ed un sommatore (cioé un bit di c(i)): se il coefficiente vale 1, il collegamento è realmente presente, altrimenti è assente (ci sono Nkn potenziali collegamenti) 7

67 Codificatore di rate-1/n Fissiamo k=1 (il caso più usato in pratica). Il codificatore lineare si può implementare con una struttura a shift register: a j Uno shift register con ν celle (di conseguenza N = ν + 1) n sommatori (ν+1)n potenziali collegamenti (realmente presenti solo se il corrispondente coefficiente nella combinazione lineare f vale 1) 8

68 Esempio 1: generazione della sequenza di codice u = (1,1,0,1,...) k = 1 n = 3 T u() i u( i 1) u( i 2) ci () c1 c2 3 c () i = u() i + u( i 1) 1 c () i = u() i 2 i u() i u( i 1) u( i 2) ci () ( c, c, c ) (110) (010) (101) (111) c ci ( ) = (110,010,101,111,...) c () i = u( i 2) 3 All istante iniziale (i=0) per convenzione tutte le celle dello shift register contengono 0 Nota 1. Questo codificatore non è sistematico. Nota 2. Il codificatore ha memoria: lo stesso vettore di informazione può generare vettori di codice diversi. 9

69 I codici convoluzionali e l espansione di banda Dato un codice convoluzionale C(n,k) il comportamento riguardo all aumento della bit rate e all espansione di banda è identico a quanto avviene per i codici a blocco. Il fatto che le sequenze di codice abbiano lunghezza teoricamente infinita non cambia nulla: l unica cosa che conta è che invece di un vettore di informazione u(i) di k bit viene trasmesso un vettore di codice c(i) di n bit. Di conseguenza la velocità delle sequenze binarie trasmesse sul canale passa da R b a n R R R k R * b = b = b c Lasciando invariata la costellazione (e il tipo di filtri di trasmissione), la banda totale occupata passa da B a * n B B = B = k Rc 18

70 I codici convoluzionali e il ritardo in trasmissione Un codice convoluzionale C(n,k) introduce in trasmissione un ritardo pari a k bit (in realtà il ritardo minimo sarebbe minore, ma per assonanza con il caso dei codici a blocco si preferisce lasciare questo valore). Essendo k un numero molto piccolo (spesso k=1) questo ritardo si considera trascurabile. 19