Il concetto di informazione. Informazione e supporto

Transcript

1 Il concetto di informazione un foglio cosparso di macchie Configurazione 1 Configurazione 2 Informazione e supporto L informazione è portata da,, o trasmessa su,, o memorizzata in,, o contenuta in qualcosa; questo qualcosa qualcosa però non è l informazione stessa. Ogni supporto ha le sue caratteristiche in quanto mezzo su cui può essere scritta dell informazione. 1

2 Informazione e supporti (1) supporti La stessa informazione può essere scritta su supporti 10 differenti Informazione e supporti (2) Lo stesso supporto può informazioni differenti. può portare fare burro italiano inglese italiano spagnolo to make, to do, to build, tariffa, prezzo, mantequilla, manteca, asino, cavalletto, somaro, 2

3 Informazione e supporto (3) Distinguere informazione e supporto fisico è distinguere tra entità logiche ed entità fisiche : : l informazione richiede un supporto fisico, ma non coincide con esso; l informazione è un entità extra-fisica fisica, non interpretabile in termini di materia-energia e sottoposta alle leggi della fisica solo perché basata su un supporto fisico. L informazione si può creare e distruggere. Quali caratteristiche deve avere un sistema fisico per supportare informazioni? Si ottiene informazione quando, dato un insieme di alternative possibili, la lettura del supporto ne elimina alcune e ne seleziona altre. Condizione necessaria perché un supporto possa portare informazione è che possa assumere configurazioni differenti,, a ognuna delle quali venga associata una differente entità di informazione. 3

4 Informazione Il concetto di informazione implica quello di scelta Esempio: di che colore è la luce accesa del semaforo all incrocio? La luce del semaforo è... scelta fra { { rosso, giallo, verde} } scelta di un valore tra quelli definiti in un insieme finito di elementi nessun altro valore che non appartiene a { { rosso, giallo, verde} } potrà essere usato per definire il colore della luce accesa del semaforo...l eleborazione automatica dei dati TIPO e VALORE TIPO dell'informazione: insieme finito nel quale viene effettuata la scelta VALORE dell informazione: l'elemento scelto Tipo e Valore non bastano... esempio: numeri interi Tipo Valore ma cosa rappresenta il valore ? gli abitanti di Napoli? il patrimonio di Mario Rossi? il numero di articoli venduti dalla ACME SpA?... tipo valore 4

5 ATTRIBUTO ATTRIBUTO: definisce il significato dell informazione, ossia serve a capire di cosa si tratta e ad identificarla (distinguerla da altre) Esempio: Il cliente è il sig. Ugo Attributo Valore Tipo: Nome di persona Tipo: Numero reale la soluzione dell'equazione è 3,5 Informazione Definizione: L'informazione è la terna di elementi {TIPO, ATTRIBUTO, VALORE} se manca uno di questi elementi non si ha informazione! 5

6 attenzione! non confondere un valore e la sua rappresentazione QUATTRO 4 IV tre diverse rappresentazioni di uno stesso valore altro esempio Quattro di quadri 4 Cardinalità di un tipo e Quantità di informazione Ogni tipo ha una propria cardinalità n che è pari al numero di elementi che compongono il tipo La cardinalità esprime il numero di elementi tra cui scegliere La cardinalità può essere usata per misurare la quantità di informazione 6

7 Cardinalità di un tipo e Quantità di informazione Una scelta fra valori di un tipo a cardinalità n é più complessa di una scelta fra valori di un tipo a cardinalità m Una cardinalità n>m, implica che il tipo a cardinalità n ha una quantità di informazione maggiore di quello a cardinalità m N.B. nell'universo esistono infiniti tipi, un ambiente di elaborazione è caratterizzato da un numero finito e definito di tipi Misura dell informazione La scelta più elementare è quella fra elementi di un tipo a cardinalità 2 (al di sotto di 2 non c è scelta...) BIT: è la quantità di informazione associata ad ogni informazione il cui tipo ha cardinalità 2 il BIT è l unità di misura dell informazione 7

8 Misura dell informazione E' possibile stabilire a quanti bit equivale la quantità di un informazione il cui tipo sia a cardinalità n Il problema può essere posto in questi termini: a quante scelte fra 2 equivale una scelta fra n? e ha una semplice formulazione matematica Esempio Me Gio Do Lu Ma Ve Sa Me Gio Lu Ma Do Ve Sa Lu Ma Me Gio Ve Sa Do Lu Ma Me Gio Ve Sa Do una scelta fra 7 elementi è equivalente a 3 scelte fra 2 insiemi 8

9 Misura dell informazione Formulazione matematica B = [log 2 n ] B = quantità di informazione in BIT n = cardinalità del tipo [x] operazione che associa ad x il minimo numero intero maggiore o uguale ad x ovvero B è pari alla parte intera di log2 n, maggiorata di 1 se la parte decimale è diversa da 0 ovvero B è l esponente da dare a 2 affinché la potenza risultante sia pari al minimo numero maggiore o uguale di n 2 B >n colore semaforo 2 bit seme carta 2 bit cifra decimale 4 bit lettera alfabeto italiano 5 bit numero lotto 7 bit Esempi: una regione di Italia... uno studente in aula... un cittadino di Napoli... un italiano... 9

10 Misura dell informazione il bit ha solo multipli byte 8 bit (2 3 ) K 1024 bit (2 10 ) Kbyte 1024 byte (2 10 byte) M bit (2 20 ) Mbyte byte (2 20 byte) G bit (2 30 ) Gbyte byte (2 30 byte) problema della rappresentazione dei valori delle informazioni la rappresentazione deve essere effettuata attraverso un insieme finito di simboli disponibili il numero di simboli disponibili è in generale minore del numero di valori da rappresentare la rappresentazione avviene associando a ciascun valore una sequenza enza di simboli La CODIFICA è una tecnica con la quale un dato viene rappresentato mediante un definito insieme di simboli,, o di dati, più elementari di qualsiasi natura (grafica, luminosa, acustica,, ) Con tali simboli è possibile formare sequenze che possono essere messe in relazione biunivoca con gli elementi costituenti l informazione Elementi di Informatica 20 10

11 Esempi: Alfabeto Morse sequenze di punti e linee rappresentanti caratteri numero matricola sequenza di cifre studente codice articolo sequenza di simboli articolo di un negozio codice fiscale sequenza di caratteri rappresentanti una persona rappresentanti uno rappresentanti un numeri Naturali sequenze di cifre {0, 1, 2,., 9}. parole della lingua italiana sequenze di lettere {a, b, c,, z} Formalizzando: l informazione da rappresentare appartiene ad un tipo T a cardinalità N T=(x 1,, x n ) x i generico valore da rappresentare T è detto Alfabeto Sorgente si vogliono rappresentare i valori x i tramite gli elementi di un altro tipo E a cardinalità K < N E=(a 1,, a k ) a j generico simbolo E è detto Alfabeto in Codice La Codifica è un applicazione C, detta tabella-codice codice, che trasforma ciascun elemento x i T in una sequenza di elementi a j E, detta parola- codice (di lunghezza l i ) 11

12 Esempio: Alfabeto Sorgente: : (picche, fiori, quadri, cuori) Alfabeto in codice: : (*, /) Codice Altro Codice picche * ** fiori / // quadri ** */ cuori // /* Codifica a lunghezza fissa la lunghezza lil delle parole codice associate ai valori dell'alfabeto sorgente è costante Codifica a lunghezza variabile la lunghezza lil delle parole codice associate ai valori dell'alfabeto sorgente è variabile il codice può essere una associazione del tutto arbitraria di parole codice a valori oppure, può essere fondato su regole ben definite esempi: il codice fiscale, il codice esame, numero di matricola 12

13 Codifica a lunghezza fissa T=(x 1,, x n ) Alfabeto Sorgente, cardinalità N E=(a 1,, a k ) Alfabeto in Codice, cardinalità K la parola-codice ha una lunghezza l i = m = costante per tutti gli elementi di T ad ognuno degli elementi x i <T si fa corrispondere una delle k m disposizioni con ripetizione dei k simboli di E sugli m posti della sequenza e dovrà necessariamente aversi k m <N (gli N elementi devono trovare almeno altrettante disposizioni che li rappresentino) Per codificare un elemento di un tipo a cardinalità N mediante un alfabeto in codice di K simboli è necessaria una sequenza di lunghezza minima m, con m =[ log k N ] Esempio: T=(x 1, x 2, x 3, x 4, x 5, x 6, x 7, x 8, x 9 ) E=(a, b, c ) m =[ log 3 9 ] = 2 x 1 = a b x 2 = b a x 3 = a c x 4 = c a x 5 = b c x 6 = c b x 7 = a a x 8 = b b x 9 = c c Codice non ridondante k m = N 13

14 Esempio: T=(x 1, x 2, x 3, x 4, x 5, x 6, x 7, x 8, x 9 ) E=(0, 1) m =[ log 2 9 ] = 4 x 1 = 0000 x 2 = 0001 x 3 = 0010 x 4 = 0011 x 5 = 0100 x 6 = 0101 x 7 = 0110 x 8 = 0111 x 9 = 1000 Codice ridondante k m > N I giorni della settimana in binario (1) Lunedì Martedì Domenica Mercoledì Sabato Giovedì Venerdì Lunedì Giovedì Martedì Mercoledì Domenica Sabato Venerdì 0 1 Lunedì Martedì Giovedì Mercoledì Sabato Venerdì Domenica Lunedì Martedì Mercoledì Giovedì Venerdì Sabato Domenica bit 2 gruppi 2 bit 4 gruppi 3 bit 8 gruppi 14

15 Un Modello x 1 x 2 x 3 x n CODIFICATORE a 1 a 2 a k Esempio: n input, gli elementi dell alfabeto sorgente, di cui 1 solo attivo Un applicazione che trasforma un element dell alfabeto sorgente nella parola codice k output, i simboli dell alfabeto codice, formanti la parola codice Lun Mar Dom CODIFICATORE Codice ASCII Codice ASCII (American Standard Code for Information Interchange): usato per uniformare la codifica dei caratteri bit esad NUL DLE spz P ` p SOH DC1! 1 A Q a q STX DC2 " 2 B R b r ETX DC3 # 3 C S c s EOT DC4 $ 4 D T d t ENQ NAK % 5 E U e u ACK SYN & 6 F V f v BEL ETB ' 7 G W g w BS CAN ( 8 H X h x HT EM ) 9 I Y i y 1010 A LF SS * : J Z j z 1011 B VT ESC + ; K [ k { 1100 C FF FS, < L \ l 1101 D CR GS - = M ] m } 1110 E SO RS. > N ^ n ~ 1111 F SI US /? O _ o DEL Esempio: Lettera A =>

16 Codici ridondanti e controllo dell errore Codici binari ridondanti sono utilizzati per la individuazione di malfunzionamenti (guasto dei circuiti, difetti di trasmissione) che conducano a parole errate In un codice ridondante, solo n delle K m parole disponibili sono lecite (dove n K m-1 ) per cui se S non è una parola lecita, allora è certamente errata se S è una parola lecita, allora è probabilmente corretta maggiore è la ridondanza maggiore è la probabilità di scoprire un errore nessuna certezza che una parola codice lecita non sia errata... Un esempio: Il controllo di parità Utilizzato per il controllo dell errore nella trasmissione di parole di codici binari completi (K( = 2, n = 2 m ) Dal codice completo si ottiene un codice ridondante aggiungendo un bit con la seguente regola: 1 se gli m bit hanno un numero dispari di 1 0 se gli m bit hanno un numero pari di 1 le parole lecite del nuovo codice avranno un numero pari di 1... parola (m bit) parola (m+1 bit) aggiunta bit di parità trasmissione possibile scoprire un solo errore... Parola ricevuta (m+1 bit) controllo di parità segnalazione esito trasmissione Parola lecita (m bit) 16

17 Codifica in Bit Diretta ed Indiretta Un codice binario associa ad ogni valore una parola codice in bit Una codifica in bit può anche essere ottenuta attraverso un codice ce intermedio T=(x1,x2,...,xn xn) ) J=(s1,s2,...,sk sk) ) E=(0,1) un codice intermedio associa ad ogni xi una stringa di sj un codice binario associa ad sj una stringa di bit sostituendo i simboli sj di ciascuna parola codice xi con la corrispondente parola in bit... diremo Indiretta un tale tipo di codifica... Esempio: T= (x1,x2,...x10) J= (a,b,c) codice: x1 aaa x6 abc x2 aab x7 aca x3 aac x8 acb x4 aba x9 acc x5 abb x10 baa codice binario per J: a 00 b 01 c 11 Codifica Binaria Indiretta X X X X X X X X X X

18 Una codifica indiretta produce parole codice di lunghezza maggiore od uguale di quella delle parole codice prodotte da una codifica diretta [log k n]*[log 2 k]>=[log 2 n] ( log : parte intera, maggiorata di uno se...) nell'esempio precedente: [log 3 10]*[log 2 3]=6 [log 2 10]=4 18