Codifica dell'informazione

Transcript

1 Codifica dell'informazione Iniziamo con una premessa di carattere matematico combinatorio. Codifica di dati con un alfabeto finito Sia A = { a 1,, a k } un insieme (alfabeto) di k simboli, chiamati lettere. D1. Quante sono le sequenze composte da n lettere (anche ripetute) di A? n = 1: le sequenze sono k : a 1,, a k n = 2: le sequenze sono k 2 : a 1 a 1, a 1 a 2,, a 1 a k, a 2 a 1,, a 2 a k,..., a k a 1,, a k a k... Per un numero n generico, le sequenze di n lettere scelte da un alfabeto di k simboli sono k n. Le sequenze (di n lettere) sono anche dette parole o stringhe (di lunghezza n). Nel caso l'alfabeto sia binario, A = { 0,1 }, il seguente diagramma evidenzia che tutte le parole di lunghezza n+1 si ottengono oggiungendo 0 e 1 in coda alle parole di lunghezza n. Pertanto, se le parole di lunghezza n sono 2 n allora le parole di lunghezza n+1 sono 2 2 n =2 n+1. Riassumendo, le parole binarie di lunghezza 1 sono 2 = 2 1, le parole binarie di lunghezza 2 sono = 2 2, le parole binarie di lunghezza 3 sono = 2 3, etc. D2. Quante lettere servono per rappresentare M dati? Le parole (su un alfabeto di k simboli) di lunghezza n sono k n e possono rappresentare altrettanti dati. L associazione tra un dato e una parola prende il nome di codifica. Si dice anche che la parola rappresenta il dato (è la codifica del dato). Dunque per codificare M dati con un alfabeto di k lettere bisogna scegliere n tale che k n M. 1

2 Se k n > M alcune sequenze sono inutilizzate e non rappresentano alcun dato. Ad esempio, se k = 2 e M = 57 allora n 6 perché 2 6 = 64 > = 2 5. Il valore minimo di n necessario per rappresentare M dati (con k lettere) è il più piccolo intero maggiore o uguale a log k M (logaritmo in base k di M). D3. Quante cifre binarie (0/1) servono per distinguere un dato preso da un insieme di M dati? Ne servono log 2 M, in base alla formula precedente. I dati da codificare possono essere qualunque cosa, anche simboli di un altro alfabeto, diverso da A. Codifica binaria Digitalizzare: rappresentare le informazioni per mezzo di cifre (digits) e, per estensione, numeri o simboli. Quali simboli usare per la codifica? In linea di principio ogni simbolo va bene. Ma nel mondo fisico la forma di informazione fondamentale è la presenza/assenza di un fenomeno fisico (carica elettrica, luce, magnetismo, etc.). Non ha importanza l entità del fenomeno (ad es. quanta luce) ma solo la sua presenza o assenza -- e che possa essere rilevata in modo affidabile. Non esiste una gradazione di valori. La rappresentazione con due soli simboli (presenza/assenza) è un sistema binario (a due valori 0/1). L unità base è il bit (binary digit, cifra binaria). Si rappresenta facilmente nei circuiti elettronici digitali come un potenziale elettrico. Con un bit possiamo rappresentare solo ciò che può assumere due valori: e se una informazione ha bisogno di più simboli per essere codificata? I valori di un insieme X di dati saranno rappresentati da altrettante sequenze binarie di lunghezza opportuna. 2

3 Codifica dei dati in un calcolatore Le memorie (realizzate con qualsiasi tecnologia) di un calcolatore sono composte da unità di memorizzazione in grado di ricordare due valori distinti, che rappresentiamo con le cifre binarie 0 e 1. Per poter memorizzare più di due valori dovremo usare più unità di memorizzazione: ad es., con due unità si possono rappresentare quattro valori distinti, rappresentati dalle coppie 00, 01, 10, 11 dove la prima cifra binaria rappresenta il valore della prima unità di memorizzazione, mentre la seconda cifra rappresenta il valore della seconda unità. Sequenze binarie Le possibili sequenze di n bit sono 2 n, perché A = {0, 1}, ovvero A è un alfabeto di due simboli. Un byte è una sequenza di otto bit. Esistono 2 8 = 256 byte distinti e quindi possiamo codificare 256 dati. Di solito, per comodità, la lunghezza delle sequenze binarie si misura in byte anziché in bit. Poiché tutti i dati e le informazioni sono rappresentate (codificate) come sequenze binarie, le loro lunghezze sono espresse in bit e/o byte e loro multipli. Con dimensione di un dato si intende la lunghezza della sua codifica. Unità di misura della lunghezza di sequenze binarie 1 KB = 1 kilobyte = 1024 byte = 2 10 byte = bit = 2 13 bit, ( circa 1000 byte) 1 MB = 1 megabyte = 2 20 byte = 2 23 bit, (circa 1 milione di byte) 1 GB = 1 gigabyte = 2 30 byte = 2 33 bit, (circa 1miliardo di byte) 1 TB = 1 terabyte = 2 40 byte, (circa 1000 miliardi di byte) 3

4 Rappresentazione di dati alfanumerici Vediamo ora come si rappresentano numeri e testi nella memoria di un calcolatore. Notazione posizionale Rappresentiamo un numero naturale usando dieci simboli, le cifre decimali: scritti in sequenza: e.g., la sequenza rappresenta il numero duemilaquarantasette. 0, 1, 2, 3, 4, 5, 6, 7, 8, L aggettivo posizionale sta a indicare il fatto che una cifra più a sinistra di un altra ha una importanza/peso maggiore: nella sequenza 2047 = la cifra 2 indica due migliaia, la cifra 4 indica quattro decine. Cifra più significativa: cifra più a sinistra. Cifra meno significativa: cifra più a destra. La notazione posizionale si può applicare ad un alfabeto di B simboli, dove B 2 è detto la base della rappresentazione. La sequenza di n cifre rappresenta il numero dove b i < B, per ogni i < n. b n-1 b n-2 b 1 b 0 b n-1 Bn-1 + b n-2 Bn-2 + b 1 B1 + b 0 B0 Tale rappresentazione è unica: ogni numero è rappresentato da una sola sequenza di cifre. Esempi: base 2, 8, 16 Per rappresentare numeri usando basi diverse, si aggiunge un pedice (che indica la base) accanto alla cifra meno significativa. Per esempio, la sequenza binaria 1101 è la rappresentazione in base due del numero tredici che ha rappresentazione decimale 13: = Quando la base non è indicata, intenderemo la base 10. 4

5 Base 2 (binaria), cifre 0, 1: Base 8 (ottale), cifre 0, 1, 2, 3, 4, 5, 6, 7: = = = = = = Base 16 (esadecimale), cifre 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, A, B, C, D, E, F (le lettere A, B, C, D, E, F corrispondono rispettivamente ai numeri 10, 11, 12, 13, 14, 15) FA1 16 = = = Conversioni di base Da una base B alla base 10 Già visto. Dalla base 10 a una base B Algoritmo di conversione per divisioni successive: N = N 1 B+ b 0 (N 1 quoziente, b 0 resto della divisione di N per B) = (N 2 B+ b 1 ) B+ b 0 = N 2 B 2 +b 1 B+ b 0 (N 2 quoziente, b 1 resto della divisione di N 1 per B) = = b n-1 Bn-1 + b n-2 Bn-2 + b 1 B1 + b 0 B0 Ecco alcuni esempi di conversione: =

6 = A = F = = FA1 16 Conversione tra le basi 2, 8, 16 Il procedimento di conversione di un numero N dalla base 2 ad una base 2 n è più semplice. Non si eseguono divisioni, ma, a partire da destra, si raggruppano i bit di N a gruppi di n e si converte ciascun gruppo in una cifra della base 2 n. Due esempi significativi: conversione dalla base 2 alla base 16= = = = 7C16 e conversione dalla base 2 alla base 8= = = = Il procedimento di conversione di un numero N dalla base 2 n alla base 2 si ottiene convertendo ogni cifra in base 2 n in una sequenza di n bit: FA1 16 = = =

7 Aritmetica in base 2, 8, 16 Per le sottrazioni si considerano i prestiti (borrow) invece dei riporti (carry); per eseguire delle moltiplicazioni bisogna conoscere le tabelline della base prescelta. La moltiplicazione e la divisione di un numero binario per 2 (vale in generale con B) si ottiene facendo scorrere (shift) a sinistra o a destra di una posizione il numero stesso. Nello scorrimento a sinistra entrano zeri a destra e la lunghezza aumenta di 1, nello scorrimento a destra si perde la cifra meno significativa e la rappresentazione si accorcia di 1. Gli algoritmi delle 4 operazioni aritmetiche sono identici per ogni scelta della base. Nota: con la rappresentazione binaria (solamente) si possono compiere non solo operazioni aritmetiche ma anche operazioni logiche, secondo l'associazione 1=Vero, 0=Falso. Indovinello Perché i programmatori americani confondono Natale con Halloween? Risposta: perché 25 DEC = 31 OCT Suggerimento: considerate e 31 8 Rappresentazione dei numeri Rappresentazione dei numeri naturali I numeri naturali sono gli interi non negativi (interi senza segno, unsigned numbers). Si usa la rappresentazione binaria usando un numero fissato n di bit (di solito n = 8, 16, 32, 64) Pertanto, con n bit si rappresentano i numeri da 0 a 2 n - 1. Se un operazione aritmetica genera un valore maggiore di 2 n 1, si verifica un errore di supero (overflow), perché il numero ottenuto è troppo grande per essere rappresentato con n bit. Se n = 4 allora la somma =10010 genera un errore di overflow. 7

8 Rappresentazione dei numeri interi Come per i numeri naturali, si usa la notazione binaria con n bit (n = 8, 16, 32). Una metà delle sequenze di n bit rappresenta numeri negativi, mentre l altra rappresenta numeri maggiori o uguali a zero. Il segno è determinato dal bit più significativo (bit di segno): 1 per valori negativi, 0 per valori positivi o zero. Esistono diverse rappresentazioni, e. g.: rappresentazione con modulo e segno complemento a 1, complemento a 2 Come nel caso dei numeri naturali si rappresenta un insieme finito di valori, per cui è possibile il manifestarsi di errori di overflow e underflow (il valore ottenuto è inferiore al valore minimo rappresentabile). Rappresentazione con modulo e segno Con n bit si rappresentano i numeri interi da -(2 n-1-1) a 2 n-1 1. Il bit più significativo indica il segno: 0 = positivo, 1 = negativo, gli altri bit rappresentano il modulo (valore assoluto). Ad es., con n=3 si rappresentano i numeri da -3 a = 0, 001 = 1, 010 = 2, 011 = 3, 100 = 0, 101 = -1, 110 = -2, 111 = -3 Difetti: due rappresentazioni dello zero, il calcolo di operazioni aritmetiche deve tenere conto dei segni (macchinoso): nella pratica si usa il complemento a 2. Rappresentazione di numeri reali In realtà si rappresenta un insieme finito di numeri razionali, rappresentabili con un numero finito di cifre: rappresentazione in virgola fissa, ad es rappresentazione in virgola mobile (floating point), detta anche rappresentazione con mantissa ed esponente, ad es = dove 19 è la mantissa, -3 è l esponente In virgola mobile si possono rappresentare numeri molto grandi o molto piccoli, come il numero di Avogadro ( ) o la massa di un elettrone ( g). La mantissa solitamente è normalizzata, in modo da rappresentare un numero tra 0 e 1, quindi in effetti basta rappresentare la sola parte frazionaria (lo zero prima della virgola rimane implicito). 8

9 Rappresentazione floating point nei calcolatori Si usa la base 2. L'esponente e la mantissa sono numeri interi (quindi con segno). Per esempio, con 32 bit a disposizione potremmo usare: 2 bit per i segni di mantissa ed esponente, 20 bit per il modulo della mantissa, 10 bit per il modulo dell esponente. Lo standard ANSI/IEEE prevede invece la seguente rappresentazione per i floating point a precisione singola (32 bit): 1 bit di segno della mantissa 8 bit per l'esponente 23 bit per la mantissa L'esponente viene rappresentato in "eccesso 127" ovvero bisogna sottrarre 127 al valore naturale codificato in 8 bit per ottenere l'intero tra -126 e 127 rappresentato (il -127 ed il 128 sono riservati per codificare valori speciali). La mantissa codifica la parte frazionaria di un numero binario che ha un 1 prima della virgola. Ogni numero binario può essere ricondotto a tale forma per divisioni o moltiplicazioni successive per 2. Quindi, se S è il segno, E è il numero naturale codificato in binario dall'esponente ed M è il numero naturale codificato in binario dalla mantissa, il valore del numero rappresentato è: (E-127) (-1) S [1,M] 2 Rappresentazione di un testo Un testo è una sequenza di caratteri: lettere dell alfabeto maiuscole e minuscole, cifre decimali, segni di punteggiatura, caratteri speciali come indicatori di fine riga o pagina, etc.. Si codifica ogni simbolo con un numero. Esistono diversi insiemi di simboli ASCII, UNICODE, EBCDIC e relative codifiche, che associano ad ogni simbolo un codice numerico. ASCII (American Standard Code for Information Interchange), usa 7 bit (inclusi in un byte con il bit più significativo a 0) per codificare un carattere preso da un alfabeto di 128 simboli. ASCII esteso (ad es. ISO/IEC ): 256 simboli, codifica anche simboli speciali (è, à, ü,...) quando il bit più significativo è 1. UNICODE: circa caratteri, tutti gli alfabeti. Si codifica in vari modi, la codifica più comune è UTF-8, che estende la codifica ASCII ed è a lunghezza variabile, da 1 a 4 byte per simbolo. Ad esempio, Il testo: ~mazzanti ha la seguente codifica ASCII a 7 bit (in decimale e in binario): ~ m a z z a n t i

10 In ogni colonna della tabella è indicato un carattere di testo, la sua codifica ASCII in notazione decimale e in notazione binaria. La rappresentazione in memoria sarà pertanto che si ottiene concatenando i byte della terza riga della tabella. Tabella codici ASCII Compressione dati Nel codificare l'informazione si vorrebbe anche cercare di impiegare il minor numero di bit per ridurre lo spazio di memoria occupato. Finora abbiamo associato una sequenza di bit di uguale lunghezza a ciascun simbolo. Tuttavia, se non tutti i simboli sono ugualmente frequenti (p. es. alfabeto) potremmo risparmiare spazio assegnando sequenze più corte a simboli più frequenti. L'alfabeto Morse sfrutta questo principio: la lettera "E", molto frequente nell'inglese è associata al singolo punto, mentre lettere meno frequenti come la "Z" hanno un codice di 4 simboli. 10

11 Letter Code Letter Code A *- N -* B -*** O --- C -*-* P *--* D -** Q --*- E * R *-* F **-* S *** G --* T - H **** U **- I ** V ***- J *--- W *-- K -*- X -**- L *-** Y -*-- M -- Z --** La formalizzazione di questa idea prende il nome di codifica di Huffman, e si basa sulla statistica delle occorrenze dei simboli. La compressione dati è un termine usato per indicare le tecniche che riducono la dimensione dei dati. La compressione dati consente di risparmiare spazio di memoria e ridurre il tempo di trasmissione. Correzione di errori di trasmissione A volte invece si vuole aumentare ad arte la lunghezza della codifica per introdurre delle informazioni ridondanti, che servono a rilevare possibili errori di lettura o trasmissione. Per esempio, la compitazione con parole al posto delle lettere (che si usa p. es. al telefono) è una tecnica che aumenta la lunghezza del messaggio ma -- introducendo ridondanza -- lo rende più robusto ai disturbi sulla linea. In campo militare, nelle comunicazioni radio, si usa l'alfabeto NATO (Alfa, Bravo, Charlie,...). Un esempio concreto legato alla codifica binaria è il bit di parità: consideriamo ad esempio gruppi di 7 bit ed aggiungiamo un ottavo bit che vale 0 se il numero di "1" nella parola è pari, e vale 1 altrimenti. In questo modo I byte inviati avranno sempre un numero pari di 1. Se un 11

12 disturbo altera un bit del messaggio, ce ne possiamo accorgere controllando la parità (ma se cambiano 2 bit non ce ne accorgiamo!). La compressione dati e la correzione di errori saranno discussi più approfonditamente in seguito. Abbiamo trattato la rappresentazione di dati alfanumerici. In un'altra lezione studieremo la rappresentazione di dati multimediali (immagini, suoni, video). [Rielaborazione a cura di S. Mazzanti degli appunti di A. Fusiello] 12